きっかけは「ジョーク」だった──ジェフリー・ヒントンがAIは人類の脅威になると考えるようになった経緯
コメント
注目のコメント
これまでのAI発展の経緯と、直近のヒントン氏の考え方をまとめた良記事。新しい情報は多くないが、「AIがジョークの面白さを説明できたことに彼自身驚きを感じ、AIの進歩のスピードは思ってる以上に進んでいると感じた」という点は印象的だった。
AIはこれまでブルーカラーワーカーなど高い頭脳的知能を必要しないものからリプレイスしていくと考えられてきたが、ソフトウェアエンジニアの仕事を置き換えるようになってきたり、専門的訓練が求められる弁護士や税理士など「士」のつく仕事を置き換える、などと言われるようになってきた。
政治家や音楽家など、人間の主体性が重要視される「家」のつく職業においてもAIの「利用」が話題に上がっている(私自身音楽生成に取り組んでいた)ことを考えると、人間のアイデンティティをAIが危機に晒すような未来も、もはや地続きにある。企業が開発するAIを制御する方法は「本当にわからない」ーー。ヒントン氏の言葉が印象的でした。
G7サミットが広島で開催、ゼレンスキー大統領も急遽参加、核兵器にフォーカスが当てられたサミットになっています。
良かれと思って開発を続けてきたテクノロジーが、どこかで悪用され、人を脅かす存在になっていく。これは、AIのみならず、すべてのテクノロジーに対して言えることなのだと思います。
ヒントン氏が「わからない」とするのはその通りで、これはテクノロジー制御の問題ではなく、人の制御の問題だからです。人がテクノロジーをどう扱うか、何に用いるかによって、技術は善にも悪にもなる単なる道具でしかなく、それを左右する人のモラルを制御することは不可能と言っていいはずです。
今の過剰にも思える盛り上がりを見ると、ある意味、資本主義の闇のようなものなのかもしれませんが、私たちはLLM（大規模言語モデル）や生成AIという革新的な技術を、売上や利益、シェア、利用者数、口コミといったビジネス指標の達成のためだけに用いるのではなく、人の生活や社会の豊かさに本当に貢献する活用とはなにかを、過去の過ちも踏まえて、考えるべきなのかもしれません。ヒントン博士のAIへの危惧。ポイントは以下、
—————
「AIを効率的に動作させるには、中間目標（subgoal）を設定する必要があります。そして、そのAIを何のために訓練するかにかかわらず、最も効率のよい中間目標は、力を得る、コントロールを得ることなのです。このことを一番不安に思っています」とヒントンは語る。
—————
この中間目標として最初に怖いのが「電力」と「半導体(計算資源)」でしょう。電力市場と半導体市場でAIが力を持って、人の暮らしに必要なリソースを奪うシナリオです。初めは価格高騰という影響として現れる、と私は考えています。
以前ヒントン博士も似たようなことを言われていた気がします。
