今日のオリジナル番組


詳細を確認
どこでも栽培可能!?「農業イノベーション」
本日配信
261Picks
Pick に失敗しました

人気 Picker
「AIのバイアス」に関する問題については、重要なテーマで今後検討を深めていかなくてはいけない問題です。

昨年、amazonがAIを使った人事採用システムが「女性に差別的だった」として運用を停止したニュースは記憶に新しいですし、他にもアメリカの再犯予測システムが人種をラベルに採用していないにも関わらず黒人の再犯率は白人より2倍高く予測されるなど、「AIのバイアス」「AIによる差別」の事例が問題になっています。

日本でも人工知能学会倫理委員会が2019年12月10日に『機械学習と公平性に関する声明』を発表するなど、この問題にどう取り組んでいくか、大きな課題となっています。

学習する膨大なデータから、AIが人間の潜在的な差別の傾向を学習し、更には助長してしまいます。
「助長する」というのは、分かりやすい例があったので引用すると:警察官は黒人や低所得者に対して偏見をもっており、こうしたデータをもとにAIを設計すると、AIは黒人や低所得者の住む地域にもっと警察官を配備したほうがよいと判断します。そして、警察官を配備することになり、さらに逮捕件数が増えれば、AIはこのデータをさらに学習することになります。このようにして、データが偏っていると、いまある差別的な状況がAIによって再生産されてしまいます。


「AI」の差別、と呼んでいますが、それはつまり社会における人間の差別を表したものです。私たちがどんなバイアスや差別を持っているのかを再認識し、AIをどう設計するのか、AIの活用が進む今だからこそ、このタイミングでしっかりと議論がなされるべきだと思います。
論点が複数あるが、こと会社と本人の対立については流出している両者の言い分 https://www.platformer.news/p/the-withering-email-that-got-an-ethical がかなり食い違っていて、そもそも辞任か解雇かという一番大事なところからしてズレているので現時点で何も断ずることは出来ないでしょう。

当事者Timnit女氏のメールは、これだけ読むとだいぶ感情的で、受け止め方によってはマネジメントに対して攻撃的、挑発的と読める。
が一方でガスライティング(心理的ないじめ)があった、などとも書いてあり、ここに至るまでのコンテクストを知らない外野が論じても詮無い。

Googleマネジメント側は、重要な論文にも関わらず内部チェックルールに従わず勝手に外部リリースしたとある、本当ならそれ自体は問題だし解雇事由になり得るかもしれない、と感じなくもない。

古今東西、諍い事はいつもそうなのだが特に今のアメリカはポリコレを貫こうとする故に悲劇が起きている。
AI倫理と従業員管理の問題が、セットで議論されてしまうのが残念ですね。

AI倫理の方は、これからも公で議論されるべきでしょう。一方で、従業員管理の問題は、双方の主張が異なっているようですし、外野が詮索するのも野暮なので、当事者同士で納得できれば良いのですが。
AIと倫理に関して、国連やユネスコなど国際機関やアカデミックを中心に議論が始まっています。

ジャックマーさんやメリンダゲイツさんと最前線で一緒に議論を進めているEdson先生にインタビューしたのでよければご参考にして下さい。

国際機関を中心行われているAIと倫理の議論とこれからのAIの未来とは?
https://note.com/marketingoversea/n/nfc0952f36dde
Googleも大きくなりすぎて屋台骨に金属疲労が出てきてるみたいですね。悪魔になるなという創立当初の大原則を忘れないで。金儲け目的の株主に嫌われてもいいですから。多くのユーザーに暖かく支持される企業であってほしいです。最大ではなく最良を目指せ!、これは昔、自分が所属していたテレビ局の経営者が言った言葉。Googleさんはどんな企業になろうとしているんですか?
正当な解雇かどうかAIに倫理判断してもらおう
「Gebru氏は著名な人工知能(AI)研究者で、顔認識におけるバイアス(偏見、先入観)の危険性について研究し、ハイテク業界における多様性の欠如を公に指摘してきた。」
グーグルの社外でも研究を続けて欲しいですね。興味深いと感じますし、今だからこそ議論すべきことかなと思いました。
企業のマネジメント層とメンバー層の価値観や思想的な対立…
働く個人のパワーが増す中で、こういう事案はもっと増えていくよな…と妄想します。
世界中の働きたい企業ナンバー1もそろそろ交代の時期ですかね。