新着Pick
229Picks
Pick に失敗しました

人気 Picker
DARPA(国防高等研究計画局)がやってるというのが気になる。どのようにして国防に活用するのでしょうか?

インターネットやGPS、自動運転などがDARPAプロジェクトから生まれています。

国防高等研究計画局
https://ja.wikipedia.org/wiki/%E5%9B%BD%E9%98%B2%E9%AB%98%E7%AD%89%E7%A0%94%E7%A9%B6%E8%A8%88%E7%94%BB%E5%B1%80
DARPAがやろうとしていることは、AIがAIの判断の理由を説明できるようにすることで、これはいわゆる「文脈理解」とはことなりますよね。おそらく、記事の方が間違えているのでしょう。

いわゆる「文脈理解」は、社会背景やコモンセンスの問題も孕んでおり、ただ文章前後や行間を読めばいいというものでもないので、また別次元の進歩が必要になるでしょう。

従来から、ディープラーニングはそのブラックボックス性が問題になることがあり、判断の見える化に関する取り組みは多くあります。現時点において、なんとなくプロセスの中間処理の見える化はできつつあるものの、100%納得できる説明は、原理的に難しいと思います。

そもそも、人間の判断でさえちゃんと説明できるなどということはありません。現実には、後知恵的に説明を捏造することが殆どでしょう。

しかし、人間がなにか誰かに不都合なことを行った場合、必ず「説明責任を果たせ」などということになります。人間社会において、責任の所在を明らかにするために、説明責任を果たすことは必要なプロセスだからです。関係者が多くの人が納得できる説明をすることで、誰に責任があるのかが明らかになります。

AIによる判断についても、その説明不可能性がAIに重要なことを判断させる際の一般の人が感じる気持ち悪さにつながっていると思います。

米軍は、現時点において、AIのみが自律的最終的に殺傷兵器のスイッチを押す判断をさせることはない、という見解を発表しています。それは、もしその攻撃があとで問題になった時に、その判断に人間の責任者が紐付いていなければ軍法会議にかけようがなく、シビリアンコントロールが効かなくなるからです。

しかし、シリアでのドローン攻撃が行われたり、中国でドローン軍が発足するなど、自律的殺傷兵器(LAWS)が戦争や紛争に導入されうる時代に既に突入しており、その時に有人兵器だけでは明らかに勝てるわけもなく、米軍も将来的にはAI兵器の導入を検討しています。

その場合の責任の所在の法的整理を行うために、「AIに説明責任が最低限果たせるか」という研究を重要視しているのでしょう。

米軍ほどの巨大な軍組織が、国家権力として法的に自律殺傷兵器を運用できるようになったら、それは相当な恐怖ですね。その前に、非法治国家が先に実現してしまうでしょうが。
日本語訳の「文脈が読めるAI」だと若干ミスリード感がありますね。
原文は "AI that can explain its decisions" となっていて、AIが自身のアウトプットについて、その理由を説明するようなことを期待しているようです。
AIは良い感じの出力をしてくれるものの、そのプロセスはブラックボックス化されているのが従来のあり方でしたが、リコメンド内容についてAIが解説してくれたりしたらより信憑性が増すというか、より人間の方に寄ってくるようなイメージですね。
研究そのものよりも、サービス化を先に想定したプログラムのような印象を受けます。
AIを社会実装する際、裁判や病気の診断など、ただ精度を上げるだけでなく、そうなった理由も提示しなければ社会に受け入れられない適用分野は多い。もしそれが実現すれば、いよいよ私達の仕事が無くなるかも知れない。
「記事」「リンクの貼ってあるビデオ」はすごく簡単に表現されていますが、“第三の波” の素晴らしさ(可能性)は目指している側の意見からすると興奮しますよ。

例えば、 今のAIを第二の波 としていますが 教師DATAが大量に必要です。 大袈裟にいうと 「あ」という文字を認識させるのに 10,000個の「色んなタイプの 「あ」」が必要になります。これを一生懸命トレーニングして 初めて第二の波は 認識できるようになるのですが、子供って 「あ」を覚えるのに 10,000回も書かないですよね。 10個位書いたらもう「あ」という文字は認識できてしまう。 第三の波は まさにこの可能性があります。

事業に置き換えると
今は
「多くのDataを持っている企業が 第二の波を使ってビジネスに勝つ 」
今後は
「第三の波を活用する会社がビジネスに勝つ」
という事が考えられます。

“ Having Data is Win “ から “ Using AI is Win “ に。
データ量に差をつけられる事なく
より多くの方々に 人工知能を使って生活やビジネスをよりよくして行くチャンスがあるということ。

誰にでもチャンスのある社会。

これだけに限らず 第三の波の今後におけるインパクトはもっと多くありますがこれだけでも社会が変わる可能性は広くワクワクしますよ
これまでのAI、というかディープラーニング以降のAIってのは、○○専用神経みたいなのを量産してる系譜でしたからね。例えばほ乳類は概ね長いものに恐怖を感じるみたいな、ロジックでは説明がつかない直結回路をひたすら組んできた様なものですからね。

そうではなくて、人間(というか大脳新皮質がある生物)のように「○○であって△△だから□□なのだ」っていうようなロジカルシンキングができるAIを作ろうって話ではないかと。こういうのが周辺ロジックと巧くかみ合って働くと、人間と簡単な会話が出来るくらいのAIがもしかしたらできるかもしれない。

というのは期待し過ぎですかね。
作戦を説明できるAI
誰にでも扱いやすく、親しみやすいAIづくりがトレンド
DARPAならがちですね。

興味深いです。