「AIのゴッドファーザー」ジェフリー・ヒントンが語る人類滅亡の危機

コメント

注目のコメント

• 山浦 真由子

  株式会社エジソンエーアイ 代表取締役

  ・2024年03月01日

  一方で、現代AIの先駆者である アンドリュー・ン氏は「AIは電気のような汎用技術である。過剰規制するリスクの方が、不十分な規制からくるリスクよりもはるかに高い。過剰規制はAIの発展を鈍らせ、AIを活用できる全ての分野に多大な影響を与えるからだ。」と主張しています。(@ AI HOUSE DAVOS 2024)
  
  私個人としても慎重さが必要だと感じていますが、人間の知への探究は本質的に止められないものだとも思ったりしています。難しいですね。
  
  ちなみにジェフリー・ヒントン氏はOpenAI創業者の1人であるイリヤ氏 (Ilya) のメンターで、一緒に論文も書いた仲です。（イリヤ氏は昨年11月頃のサムアルトマン氏CEO解任騒動の中心人物）
• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2024年03月01日

  ヒントン氏の超知能が人類を滅ぼすという危惧は、荒唐無稽にも見えます。しかし、彼が鳴らした警鐘に共感する人々が増えてきたのは確かです。
  
  特に、自律的に設定したサブ目標達成のために人間を制御しようとする点は重要です。また、AIに意思決定を委ねてしまう社会になれば、もう人間はAI停止スイッチを押せないし、押されないようにAIが人間を騙すだろうという見方にも頷けます。
  
  だから「アラインメント」が大事なのだと。無邪気に高度なAIを開発できる時代は過ぎ去ったのですね。