数学博士が語るＡＩの正体 仕組まれたアルゴリズムの罠

コメント

注目のコメント

• 松岡 宗嗣

  一般社団法人fair 代表理事

  ・2019年11月09日

  この記事重要な指摘をしていると思います。「AIは「成功」に導くパターンをデータ分析によって探すが、大事なのはその「成功」を誰が定義するか」
  
  AIは過去のデータから予測するけれど、その際に、例えば人材採用の際の女性差別など、既存の差別や偏見をアルゴリズムに組み込んだまま再生産する可能性がある。
  
  そんなアルゴリズムで導かれた結果が社会統治の手段として使われたら…。例えば中国で進む「社会信用システム」はデータを元に人々をスコアリングし「点数が悪いのはあなたの恥ずべき選択の結果です。点数が上がるよう努力しろ」と「自己責任論」に接続される。
  
  その背景にはやはり世の中の「規範」があるでしょう。例えば、これまで社会は肥満や薬物中毒者に対して『恥ずべきもの』とスティグマを押して、”改善”させようと商品を売りつける等してきました。AIによってこのプロセスが自動化され得ることになります。
  
  はたして過去のデータを元にAIが導いた答えは「客観的」か。そもそもAIをつくるのは人間で、人間の価値観が反映される。システムを盲信せず批判的に見ること。そもそも自分のデータがどのように取得され、どのように利用されているかを把握し、自分でコントロールできるよう何らか規制が必要ではないでしょうか。