AIは人間の脅威となり得るか？「AIアライメント」が重要な理由

コメント

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年07月26日

  AIアライメントは善良な人間のように振る舞うために必要な学習です。汎用AIに近づくにつれ、人間に危害を与えたり、暴走しないようにするために、ますますAIアライメントが重要になるとのこと。
  
  能力を抑える面も否めません。だから、最大限に能力を発揮させようと、強欲な人間のように振る舞うよう学習させる開発者が現れそうです。それは怖い話です。
  
  現在検討されているAI規制は、AIの能力制御までは対象としていません。今後の重要課題となりそうです。その意味でもOpenAIは超知能対応など常に一歩先を行ってますね。
  
  AIアライメント前のGPT-4を見てみたいです。
• 平川 凌

  NewsPicks Content Curator

  ・2023年07月26日

  AGI（汎用人工知能）へと発展させていく上での課題や懸念は、どう乗り越えていくことができるのか、研究者の1視点としてまとめられていて、おもしろかったです