7Picks
Pick に失敗しました

人気 Picker
GoogleのAI倫理チームの共同リーダーを解雇されたティムニット・ゲブルさんに関する記事です。経緯を簡単にまとめると、

・ティムニット・ゲブルさんは、AIと倫理に関する著名な女性研究者で、Googleの倫理的AIの取組みの目玉だった

・しかし、ゲブルさんが(検索という基幹ビジネスにかかわる)大規模自然言語処理システム「BERT」などの問題点を指摘する論文(学習データが十分スクリーニングできてなくて差別的表現を再生産する、少数民族の言語などが反映されにくい等)を発表しようとしたところ、Googleがストップをかけ、解雇。
https://www.itmedia.co.jp/news/articles/2012/07/news090.html

・ゲブルさんを擁護しようとした同僚も退職。
https://jp.reuters.com/article/alphabet-google-research-bengio-idJPKBN2BU0EW

・(プロジェクトメーベンやAI倫理諮問委員会「ATEAC」解散など、これまでのGoogleの関連する課題もあいまって)AI研究者コミュニティに反対署名や助成金辞退などボイコットが相次ぐ。
https://www.sustainablebrands.jp/news/os/detail/1190445_1531.html
https://www.afpbb.com/articles/-/3219483
https://ledge.ai/google0329/

問題の発端となった論文は下記で読めます。
http://faculty.washington.edu/ebender/papers/Stochastic_Parrots.pdf

サマリーも下記で読めます(この記事の後、少し補足・修正がされたようですが、おおまかには同じです)
https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru/

企業の視点に立つと、成長分野においてかなり難しい対応を迫られていると言えます。ステークホルダーとしての従業員や研究者コミュニティとの関係構築の重要性を改めて感じます。