AI（人工知能）の力が悪意のある目的に使われれば、大惨事が起きる
プレミアム会員限定の記事です
今すぐ無料トライアルで続きを読もう。
オリジナル記事 7,500本以上が読み放題
オリジナル動画 350本以上が見放題
The Wall Street Journal 日本版が読み放題
JobPicks すべての職業経験談が読み放題
米国が第2次世界大戦中に原爆を開発できたのは、フォン・ノイマンらが開発したコンピュータによります。
もう１つ、連合国の勝利に貢献したのは、英国でチューリングらが開発していたコンピュータがドイツ軍の暗号通信を解読できていたことです。
いずれも数学者の仕事で、第２次世界大戦で、コンピュータと数学者が、覇権を握る国家を決定する、ということが確定しました。
チューリングがこだわっていたのは、「機械が人間と会話できるか」（チューリング・テスト）ということです。
「機械に感情があるのか？」とか「機械に知性があるのか？」というのは、どうでもいいことでした。
たとえば、メールやチャットだけで10年以上やりとりしていて、会ったことはないけど、人生の諸々の出来事や仕事のこと、趣味のことに誰よりも有益な答えを返信してくれる相手がいたとします。
そして、その相手はAIだったとします。このAIは、チューリング・テストに合格です。
チューリング・テストに合格できるAIの開発は21世紀まで世界中の研究者が手がけていて、そのためには確率論を使った言語学の数学化や、代数幾何学を応用した画像認識によってAIの会話能力を発展させていく必要があり、汎用AIの基礎となりました。
チューリング・テストの延長上にある汎用AIは、つまり人間と同じように会話できる、というものです。それだけでは人類の危機とか破滅とかいった話にはなりません。
スティーブ・ヴォズニアックがいうような、「コーヒーをつくって提供できるAI」、たとえば喫茶店を単独で経営できるようなAIも可能かもしれません。
そういった「人間から仕事を奪う」にはとどまらず、少なくとも戦争には利用されるでしょう。戦闘機も潜水艦もAIで済むなら、人間のパイロットは要らなくなるでしょう。
犯罪組織がサイバー犯罪を全て汎用AIにやらせる、といったこともありえます。
「知能の爆発」とか「超知能」については、現在のところは何ともいえないことが多いです。
ただ、これまでもそうなってきたように、今後はこれまで以上に科学技術依存、科学技術を支配する者が人間を統治する社会になっていき、AIがその中核となることは確かでしょう。
ボストロムはトランスヒューマニズムとか、更にオカルト感すら漂う「人類は他の生命体が作ったシミュレーション内に生きているかも」というマトリックス的な所謂シミュレーション仮説なども論じている御仁。ぶっ飛んでるようにも聞こえるが実際の技術革新自体がぶっ飛んだ所の入り口まで差し掛かっているという事でもあるのだろう。
「AIのアラインメント(設計者が意図した目標や関心に沿った結果を出すように、AIを制御すること)に関して言えば、既存の哲学的な文献をそのまま適用できるということではありません。」
哲学というと、歴代の哲学者の言葉を引用されがちですが、そうではなく、新しいAI時代の哲学を作る必要があるという意見は、もっともだと思います。
進化するAIを利用しながら、個人として自分なりの哲学を獲得して、社会としての哲学が形成されるのでしょう。
マイニュースに代わり
フォローを今後利用しますか
