AIの判断、企業に説明責任 ルール作りへ政府7原則
コメント
選択しているユーザー
【人事戦略デザイナーの視点】
『EUはAIの判断過程をわかりやすく伝える責任を企業に課すのが特徴だ』
人間にも分かりやすくロジックが説明できるAIって、膨大な連立方程式を解くAIからは最も遠い特性ではなかろうか？
AIは判断をする、決定は人間が行う。これが普通の流れだと思います。
注目のコメント
結論から言えば、このような規制をすべき状況にはない。文面だけから見ると、AIが分かっていない素人の提案に見える。
例えば、集合写真から自分の子供を探すAIを開発したとしよう。人間なら簡単にできる仕事だが、従来、コンピュータには不得意な仕事だった。なぜなら、どのようにして自分が我が子を見分けているかの理屈を説明できないからだ。我々には、簡単にできることで、理屈が説明できないことは沢山ある。この子供を見分けるのはその例である。このようなことはコンピュータのプログラムに従来できなかった。理屈が説明できることでないとプログラムが書けないからである。
しかし、正解付きの実例データ、すなわち、写真に正解がついているデータが大量にあれば、実績を用いて合理的な判断ができる。AIはこれを行うものである。この仕組みで、たとえ理屈が分からなくとも子供を判定できるようになったのだ。
このようにAIが威力を発揮する仕事とは、人間でも理屈が説明できない仕事である。だからこそインパクトがあるのである。それを説明せよ、とはなんだろうか。
実は、ある意味で、AIの判断は簡単に説明できる。過去の事例で、最もいい結果が出るように判断するようにした、ということである。論理的に説明できないことに関して、過去の実績を基準に判断するという合理的な方法に頼ることにした、ということである。そういう意味で、人間の理屈とは違う意味で、根拠を説明する技術は、我々も開発し、適用も進めている（学会でも研究が盛んである）。
しかし、上記のように説明できたかは定義そのものから微妙な話で、今の混沌として変化する状況で、政府が規制するようなものではないと思う。ルールは曖昧なものを扱うのが苦手なものである。AIは今後コンピュータとほぼ同義に幅広い用途にに使われていく。趣味のようなことから命に関わることまで広い。それをAIということで一律に規制すべきではない。
AIが、いよいよ幅広く適用されようとした時に、このようなガイドライン/原則は、この動きを抑制することを懸念する。このようなことが日本の競争力を奪う恐れがある。
PS 確かに島田さんご指摘のように、この会は、調べると大変見識の高い素人ではない人達で議論されています。この記事だけからは見えない事情があるのか、あるいは、メディアが正確に伝えてないか。これを国際的なガイドラインとして提案していくのは良いと思うが、その間、このルールが日本企業にだけ摘要されることは避けたい。記事タイトルにある「説明責任」は現段階ではかなり高いハードルだ。律儀に日本企業がこれを守ったお陰で、AIを用いたサービス開発や社会導入が遅れては元も子もない。外資系、特に米中の企業は現状ベースで進めるだろうから、ますます差がつく。ルール策定は進めるとして、開発や活用はあまりルールに縛られることなく、並行して進めて欲しい。
【追記】PFNの丸山さんから次のようなツイート
https://twitter.com/maruyama/status/1067465126939287552?s=21【AIの本質を理解しない議論は危険だ】
AIの活用で産業は「標準化と横展開」のステージから
「実験と学習」のステージに切り替わる。
人間が行い得ないような膨大な量のデータを使って
無限に「実験」を行い、「学習」し、アクションするのが、
AIの本質なのに、それを分かりやすく説明する責任を企業に
負わせるなど、素人の「机上の空論」という他ない。
融資審査を行う銀行の窓口職員の脳内構造を、神経伝達物質の動きまで遡って説明せよと言うようなもので笑止だ。
それを強行すれば、AIの進歩は人間の制約によって阻害され、
AI以前の時代に引き戻されてしまう。
そんなことをすれば、日本が世界に遅れを取りかねない。
倫理は大事だが、それによって技術の進歩が阻害されては、本末転倒だということを理解すべき。
技術の中身を理解しない素人の議論がいかに危険かを理解すべき。
