ABEJA Tech Blog

中の人の興味のある情報を発信していきます

2022年AI倫理ニュースベスト10

本記事はABEJAアドベントカレンダー2022の16日目の記事です!

 

本日の担当は、法務・AI倫理関係を担当している古川です。12年ほど弁護士をしていまして、途中で機械学習をやってみたくなり数学から統計から機械学習の勉強をして(PRMLとかカステラ本とか読みました!)、Pythonも勉強をして、ある会社で画像解析AIの実装をしていたのですが、現在は法律・倫理関係業務だけ扱っています。

 

AI倫理・ガバナンス関係の記事を毎年書いているので、今年もその路線で行きます。テーマは「行く年くる年」。このテーマなら毎年書けますしね。まあ、「くる年」の議論はしませんので、厳密には「行く年」だけで2022年の振り返りでしかないのですが・・・

では、ランキング形式で2022年のAI倫理関係のニュースを振り返ります。ランキング形式が人気らしいのでランキング形式なだけで、別に1位だとか2位という順位に大した意味はないです。また選ばれなかったニュースでも重要なものはたくさんあります。個人的な興味の点から適当に選んでいるだけで、しかも人間の持っているバイアスの関係で直近のニュースを選んでしまうわけです。

 

第10位 GitHub Copilotの訴訟

 

 www.theverge.com

 

Githubが提供しているAIによるコード作成支援ツールであるCopilotが違法に学習用データを用いているとして、Githubや親会社であるマイクロソフトやビジネスパートナーのOpenAIに対して、訴訟がアメリカで提起されました。

Copilotは、Githubのパブリックリポジトリにアップされているデータを使って学習しているのですが、アップされているコードの利用規約は多くがApatch2.0やMITで、無償で利用できますが、コード作成者(オープンレポジトリにアップロードしたコードの作成者)名の表示を求めています。このような著作権者の表示なくCopilotを提供していて違法だということです。

なお、Github側はFair useの法理を用いて適法だと主張しているようです。Fair useというのはFairな利用であれば著作権違反にならないというアメリカの判例理論です。

なお、日本ですと著作権法でAIの学習目的での著作物利用は著作権違反にはならないと定められています。

 

第9位 EUのAI責任指令案 

commission.europa.eu

EUがAI責任指令案(Proposal for an Artificial Intelligence Liability Directive)を発表しました。適用対象が契約対象外の事由による過失であったりと、少し特殊なので法案の内容の解説は、ほどほどにしておきますが、証拠の開示を事業者側に義務付けたり、ある程度の証明が出来れば一定の場合には損害との因果関係の存在を推定したりが定められています。

重要なのはEUの立法によりAIを規制してゆく姿勢ですね。2021年にはAI規制案を発表して、今度はこれです。EUのようなAIを規制する法律を作ってゆくアプローチをハードロー・アプローチといいます。対して、法律をつくらずガイドラインなどだけでやってゆくアプローチをソフトロー・アプローチと言います。アメリカなどは警察による犯人特定のための顔認識の利用制限のような一定の領域に限って法律を作る中間的アプローチです。日本も中間的アプローチと言っているのですが、特定の個別領域を含め、ほとんどAIを直接規制する法律がなくソフトロー・アプローチに近いです。

アメリカなんかでは、学者の間ではハードロー・アプローチが人気だったりするのですが実現には至っていないですし、実務の反対も大きく今後も実現しそうにないかと思っています。なのでハードロー・アプローチが好きなのはEUだけでして(特にドイツで指示が強いのですが)今後の展開が要チェックなわけです。

 

第8位 気候変動

特定のニュースというよりも、今年は気候変動とAIのようなテーマの研究が非常に多かったと思います。これは去年くらいから言われていたことで、やはり1,2年前から気候変動による被害が大きくなってきており(または報道で大きく取り上げられるようになってきた)、その影響かと思います。

アメリカのニュースなんか見ていると夏や秋には毎週のように大型ハリケーンによる被害が報道されており(気候変動でハリケーンが大型化している)、それ以外にも干ばつや山火事に関するニュースも多いです。日本のニュースを見ていると余り感じませんが、世界的には超重要トピックになっていまして、そのあたりがAIにも反映されているという感じです。

AIを適用して気候変動に対処するというようなPJが増えてゆくとともに、AIの消費電力の削減なんかも今後求められていくかもしれません。

 

第7位 カンニング防止AI

www.npr.org

試験における州立大学におけるカメラを用いたカンニング防止AIの利用がアメリカで憲法違反と判断された事案です。

ただ、注意が必要なのは事前に監督官に部屋を見せるように言われており、これが法律の手続きによらない捜索の禁止に違反するという判断です。つまり、このような運用がなければ判断は別になりえたかもしれません。

 

この判決で興味深い(法律家的な観点からですが)のは、プライバシー違反ではなく適正手続きによる捜索規定違反としたところです。あまり今までは議論されなかった点ですね。

 

第6位 顔認識の復活

 

 www.reuters.com

 

2022年はアメリカにおいて警察による顔認識の利用が進んだ年でもありました。

2020年のBLM運動により、顔認識は黒人において誤判定をしやすいため誤認逮捕の危険があることから、警察による利用を制限する条例が多数つくられました。つまり、条例等形ですが顔認識の利用、特に警察による利用を制限する流れがあったのですが、この流れが停滞しつつあるという認識です。

これは顔認識側の改善もありますし、また背景にコロナの中での格差拡大による犯罪の増加が存在すると思われます。

 

第5位 採用AI規制

www.faegredrinker.com

2022年は採用AIの規制がアメリカで進んだ1年でした。やはり採用というのは社会や人に与える影響の大きい領域ですので、「やっぱりか」という感じですね。

イリノイ州が知る限り最初の規制を2020年に行っています。採用AIを利用していることを告知したり、典型的にはどういう特徴量を見ているのかを告知するといった規制です。メリーランド州も2020年に規制を行いまして、面接動画評価AIを使うには対象者の同意が必要を求めています。

ニューヨーク州では採用AIを規制する立法を2021年12月(ほぼ2022年!)に通しており、中立の監査を必須とするようです。

今年になってカリフォルニア州が採用AIの規制を検討しているとのニュースがありました。

2020年の最初の2つの州でいったん止まっていたのですが、今年に入って2つの州が追加という感じです。

特に面接動画分析AIや動画による感情分析AIについては批判も強く、今後規制が進む可能性があります。

 

第4位 AI権利章典の青写真

 

 www.whitehouse.gov

 

アメリカのWhite houseがAI権利章典の青写真をリリースしました。

権利章典ってなんやねんという話ですよね。世界史でも出てくるのですが、要は守るべき権利一覧です。これの青写真、つまり大まかな設計図的なものを公開したということです。内容自体は、よくあるものなのですが、今までアメリカってこの手の守るべき価値を国が発表するということがなかったわけです(一部の役所などではありましたが)。日本だと「人間中心のAI社会原則」というのがあったり、EUですと「Ethics Guidelines for Trustworthy AI」というのがあったのですが、アメリカもついにこの手の文書を作成したというわけです。

 

第3位 ダースベイダーの声の生成

techcrunch.com

スターウォーズのダースベイダーの声優は、ジェームズ・アール・ジョーンズという有名な俳優でして、美声で有名な方で、ライオンキングのムファサ(父親ライオン)の声も担当していたりします。結構高齢で声優を引退するにあたり、今後、ダースベイダーの声をAIで生成することになり、同意を得たという話です。

なお、このニュースの前に「オビ・ワン」というダースベイダーが出てくるテレビドラマが放送されており、そこで既にAIの声が用いられていたようです。見ていたのですが気づかなかったです!!

倫理的課題がないじゃないか!と言われそうですが、倫理的課題があるというよりも生成AIの有効活用例としてご紹介したいということです。Deepfakeをはじめ生成AIに対してAI倫理の人間は非常に批判的なのですが、全部禁止すればよいという話ではない訳です。

EUのAI規制案なんかは、生成AIの生成したコンテンツには、その旨の表示を行うように求めているのですが、このような映画で用いた場合はどうすればよいのですかね?最後のエンドクレジットでちょろっと表示すればよいのですかね?じゃあ、全くのフェイクのAI生成動画でも同じように最後の方にちょろっと表示すればOKなのですかね?こういう場合に表示を入れるということ自体ピンと来ないところがあります(あと、AI倫理の観点から規制を主張している人がDeepfakeのようなフェイク動画ばかり想定しており、このような有用な利用シーンを余り考えていないのが何となく見えてきます。)。

 

第2位 mimic

 

 news.yahoo.co.jp

 

画像生成AIであるmimicの事例は非常に話題になりました。ご存じの方も多いとは思いますが、mimicというのはユーザが画風を学ばせたい画像を読み込ませて、その画風の画像を生成できるAIです。これのサービスをリリースしたところ、他人の画像を読み込ませて画風を学ばせて悪用できてしまう等の批判が相次いだため、サービスを一時停止し、後に不正対策を強化したうえで再度サービスリリースとなったという案件です。

利用規約上は他人の画像を学習データに使うことを禁止していたそうなのですが、上記のような批判が相次ぎ、利用時に事前の審査を求めたり、透かしや追跡情報の付与などが追加対策として導入されたそうです。

批判の中にはイラストレーター(画家)の将来の仕事の影響を指摘する声もありました。AIによる将来の仕事の影響(特に減少)については、色々指摘されているものの、この件のように大きな指摘がなされサービスに影響を与えたというのは珍しいと思います。

個人的感想なのですが(限られた情報の中での感想で的外れかもしれません)、他人の画像の利用禁止を利用規約で定める等一定の配慮を行っていたのですが、不十分だったということかと思います。なぜ不十分だったのかですが、私の予測では、恐らくサービスの位置づけが定まりきっていなかったのではないかと。つまり、「画風を学習して画像生成出来たら色々なことに使えて便利!」という感じになっていたのかと予想しています。「こういう場面でこう使ってもらう」のような確定が不十分だと、どうしてもどういうリスクがあるかの分析もどこまでの対応策が取れるかの分析(例えば透かしを入れて問題ないか、生成画像のダウンロードを禁止にして問題ないか等は、利用場面を確定しないと判断できないでしょう。)も不十分になりがちで、背景にはこういうことがあったのかなぁと予測しています。または、どういう位置づけなのかを考えてあったとしても、上手く伝えきれていなかったということも考えられます(多分、こっち?)。

 

第1位 Midjourney

 

 www.vice.com

 

ミッドジャーニーのニュースが1位です。ミッドジャーニーというのは、promptにキーワードを入れると、そのキーワードに沿った画像を生成してくれるAIです。これを使って生成したAIがデジタルアートのコンペで優勝したという話です。

ミッドジャーニー自体は、結構好意的に受け止められています。先ほどのミミックと違うわけです。ミミックは、画風を自分で学習させられるのですが、ミッドジャーニーでは画風は既に学習済みで固定で、何の絵が欲しいかを指示するだけという違いがあります。

その意味で、ここでの問題は、ミッドジャーニーみたいなのOKなの?というよりも、AIで生成した画像をコンペに出していいのか、しかも優勝してしまっていいのかという話なわけです。ただ、これって美術の定義次第なところだと思うのですよね。

 

番外編 雇用統計

Growth trends for selected occupations considered at risk from automation : Monthly Labor Review: U.S. Bureau of Labor Statistics

あと、番外編として1つ紹介します。なぜ番外編なのかというと、他のレポートや論文やらニュースを読みながら読んでいて、まだ読み終わっていないからです。アメリカの雇用統計局が出した記事で、AIで仕事がなくなると言われいたいくつかの仕事の統計を見てみるとむしろ増えているというものです。

よくある「AIにより仕事がなくなる大変だ!」的な論調に対して、逆にAIにより新しい仕事ができるので、労働力の移行の在り方に議論を集中したほうが良いという指摘もあるところなのですが、どうも、むしろ無くなるはずの仕事が増えているということです。

勿論、年収が下がっているのではないかとか業務内容が変わっているのではないかということは考えられます(記事に書いているかもしれませんが)。このため、AIをどう使っていくか、どう業務を変えてゆくかということを考えるのが良いと思うのですよね。

 

さて、本来の予定では、今年は生成AIの話が多かったので、生成AIに関する著作権や倫理の話をしようと思ったのですが、なんと、明日17日の枠が急遽空いたため、明日に回します。

これから、生成AIと著作権の話をしても長すぎますし、ベスト10に取ってつけたようになっちゃいますし・・・

 

というわけで明日をお楽しみに!!