【核心】なぜAIは「偏見」を持ってしまうのか

コメント

注目のコメント

• 佐々木 励

  AI企業 旅する魔法使い

  ・2020年03月16日

  社会や人に偏りがあり、その状況をAIがそのまま学習してしまうと、偏見のあるAIになってしまいます。
  
  AIだけでなく、コロナショックの影響で不足するマスクやトイレットペーパー、震災後に広がるフェイクニュースも、認知バイアスが影響していそうです。
  
  認知バイアスは、よく知られているだけでも200種類ほどありますが、ざっくり4つに分類すると、
  
  1. 情報の過多 ：多すぎる情報に何とか対処するための癖。場合によっては、自分にとって都合の良い情報だけをつまみ食いし、本当に重要な情報を隠してしまう可能性もある。
  2. 記憶容量の不足：重要な情報を優先的に記憶するための癖。つじつま合わせのために、記憶を編集したり過度に一般化をしてしまうこともある。
  3. 時間の不足：限られた時間の中で迅速に判断し、行動するための癖。場合によっては、短絡的な反応や非合理的な行動を促す可能性もある。
  4. 意味の不足：さまざまな手がかりを利用して、データから何か意味のあるものをつくる癖。情報を勝手に補完し、過度に単純化した意味を作ってしまう恐れもある。
  
  偏見のない社会・脳・AIにむけて〜①歴史に学ぶ
  https://note.com/ray_30cm_ns/n/n248d19f6ae75
• 森川 潤

  NewsPicks NY支局長

  ・2020年03月16日

  AIは人間の「バイアス」を助長してしまうーー。この根本的な問題に迫ったQuartz（https://qz.com/japan/）の渾身レポートをどうぞ。
• 中島 好美

  事業構想大学院大学 特任教授

  ・2020年03月16日

  国・国境が強く意識されている今　注目したい記事。「AIバイアスに取り組むためには、人間が持つバイアスと対峙しなければならない。」　　人間が持つバイアスを、AIが修正することはない。