巨額損失や女性差別。暴走防ぐ「AIガバナンス」
コメント
注目のコメント
近年、倫理的な観点からAIによる取り組みが厳しい批判に晒されるケースが出てきています。
紙幅の都合で取り上げられなかった事例の一部を紹介します。
個人的に記憶に新しいのは、
2019年の紅白歌合戦に登場した「AI美空ひばり」。
山下達郎氏が「冒涜」と批難したほか、
故人をよみがえらせることへの厳しい声がネット上に溢れました。
韓国では7歳で亡くなった少女をバーチャルの世界でよみがえらせ、
VRゴーグルをかぶった母親がCGの娘と対面するプロジェクトが物議を醸しました。
プライバシーの尊重も論点の一つです。
米国の小売大手ターゲット社は、
消費者の購入履歴から「妊娠スコア」を算出し、
スコアの高いユーザーに妊婦関連アイテムのクーポンを送付するサービスを展開。
娘にクーポンが送られてきたことを知った女子高生の父親は
的外れな販促であると激怒し、ターゲット社に抗議をするも、
後日女子高生が妊娠していたことが発覚。
同社は家族すら知らなかった女子高生の妊娠を予測していたわけですが、
妊娠の事実を他人に知られたくない人も少なからずいることから、
クーポンを送ることで極めてプライベートな情報を周囲に知らしめてしまった点で、
同社の行為はプライバシーの侵害になり得ます。
他にもAIチャットボットの開発にあたり、
韓国企業が利用者の同意を得ることなくカカオトークの会話を利用していたケースや、
黒人などに対する誤認率の高さから警察による顔認識AIの利用が禁止された米国のケースなど、
トラブル事例は枚挙にいとまがありません。
こうしたAIリスクに正面から向き合っているのが
NTTデータとRobust Intelligenceです。
Robust IntelligenceはAIの弱点を発見し、
改修を促すサービスを提供するスタートアップ。
NTTデータはAI開発やAIガバナンスの構築などを手がけるSI。
今回の対談では両社のキーマンに
「良いAIとは何か」を掘り下げていただきました。
これまでメリットを最大化するのが「良いAI」と考えられてきましたが、
これからはリスク管理が徹底されていることも「良いAI」の必須条件になっていく、
なぜならAIリスクの管理が企業価値に直結する時代に入っているからーー。
そんなお話です。AIを使用する際に大切なのは「技術ありき」ではなく「私たちはどのような社会に暮らしたいのか」ということを問い、それに合うようにAIを使っていくことです。2019年に日本の内閣府も「人間中心のAI社会原則」を定めています。
ちなみに、記事にあげられている事例の他に、アメリカでは警察の捜査用に使われた顔認証AIによって誤認逮捕も発生し、使用中止となっています。一方で裁判で使われた再犯可能性予測AIは、使用の可否が裁判まで争われた結果、最終的には人間の判断で使うことという留保つきで合憲となりました。
簡単な解説はこちらでどうぞ。https://youtu.be/IAtaHVWNPT0?t=289AI活用においてリテラシーとモラルが求められる。さもないと誤った判断や偏った判断になってしまってまずいよというお話。データを扱う側に責任が求められる。AIで自動化！と言いつつその前のデータ整理やAI自体の品質管理など結局工数かかる感じですね..
