「AIの説明責任」って何だろう？

コメント

注目のコメント

• 土屋 武司

  東京大学 大学院工学系研究科 航空宇宙工学専攻 教授

  ・2019年01月07日

  この記事は，NPでも大きく取り上げられた「AIの判断、企業に説明責任　ルール作りへ政府7原則」
  https://newspicks.com/news/3488576
  に関する解説．私も以下の記事
  https://newspicks.com/news/3519342?ref=user_2112738
  で「説明責任はありえない」とコメントしたが，「説明責任」という言葉を誤って理解していた．きちんと，記事元になった会議
  https://www8.cao.go.jp/cstp/tyousakai/humanai/index.html
  の内容を確認すべきだった．
• 池田 容一郎

  IT出身の個人事業主

  ・2019年01月07日

  今、完全自動化をするなら必要な議論かもしれないけど、まだ、早いのでは。今は、人の判断のサポートとして使えばいい。そのうち実績がたまったら、それを持って説明とすればいいのでは。
  
  説明する側もされる側もそういうもんだって理解して、合理的に進めましょうよ。
• 岡田 領

  東京大学 AI / Research / Engineer / DJ / BeatMaker

  ・2019年01月08日

  "判断のブラックボックス性が高いAIが抱える問題の本質は、人間とAIの間で情報の非対称性が大きくなってしまうことにある。説明できるAIの開発が、こうした非対称性を減らすうえで重要な役割を果たすのは間違いない。"
  
  "AIシステムを構築した企業や組織が開発工程を適切に統制し、常に利用者や外部組織と対話を続ける。そしてAI技術と組織体制の双方に改善を加えながら、時には運用停止の判断まで下す。こうした取り組みを通じて初めて、企業はアカウンタビリティーの責務を果たしたと言えるのだろう。"