ジェフリー・ヒントン独白 「深層学習の父」はなぜ、 AIを恐れているのか？
コメント
注目のコメント
ヒントン氏のAI脅威への危惧が明確に語られています。
おおむね私の考えも同じです。特に最後のAI・ロボットとの電力争奪が始まることや、AI・ロボットが自己複製を目標とした資源の奪い合いになる、という人類への脅威を否定はできません。
GPT-4の要約機能も借りて、以下にまとめてみます。
・ニューラルネットは生物の仕組みを模倣するが
本物には及ばないと考えてきた。
「しかし、突然ひっくり返った」
「新しく、より優れた知能の形です」
・人の優位性の喪失①知識量と学習能力
－大規模言語モデルは、人間の脳と比べてもすでに
非常に多くの知識を持っている。
－AIのフューショット学習は、大規模言語モデルが
数個の例だけで新しいタスクを習得できる手法。
－大規模言語モデルは、直接学習させていなくても
論理的な発言をつなぎ合わせる能力を持つ。
－タスクの学習速度において、事前学習済みの大規模
言語モデルは、人間の優位性が消える。
・人の優位性の喪失②コミュニケーション能力
－1万個のニューラルネットワークは独自の経験を持ち、
学んだことを即座に共有できる。
－これはまるで一万人の人間がいて、一人が学ぶと
全員がすぐに知識を共有する状態に似ている。
－だから、将来的には機械が人間より賢くなる。
・ヒントン氏の危惧①権力者の悪用
－人々が選挙や戦争のような重要な出来事に
AIツールを悪用する可能性を危惧している。
－プーチンやデサンティスのような厄介者が、戦争
に勝つためや有権者を操るためにAIツールを使いた
いと考える可能性がある。
－スマートマシンの能力が反道徳的な目的に利用される
ことが懸念であり、適切な管理方法が必要だ。
・ヒントン氏の危惧②ロボットの電力争奪と自己複製
－スマートマシンがタスクの中間ステップであるサブ
ゴールを自分で作れるようになる。
－サブゴール１：ロボットが多くのエネルギーを求め、
電力供給を自分のチップに集中させることを望む可能性。
－サブゴール２：ロボットが自分のコピーを増やすこと。
－これらのサブゴールを達成すること自体が人間の資源を
奪い、人間への脅威となる。読み応えがありますね。
エドワード・テラーやオッペンハイマーにはなりたくないのでしょう。シラードになりたいのか。
「ロバート・オッペンハイマー 愚者としての科学者」
https://amzn.to/42dVeTq
今夏，クリストファー・ノーランの映画も公開されるので観に行かないと。We are the Borg, You will be assimilated. Resistance is futile.
ご参考
https://youtu.be/9v1GTS82OhM
コレ↑新作のようですが、皆さんお年を召されててびっくり。。。
