• 特集
  • 番組
  • トピックス
  • 学び
プレミアムを無料で体験

AIは人間の脅威となり得るか?「AIアライメント」が重要な理由

探検する知、創造する未来
43
Picks
このまま本文を読む
本文を読む

コメント


のアイコン

注目のコメント

  • badge
    三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

    AIアライメントは善良な人間のように振る舞うために必要な学習です。汎用AIに近づくにつれ、人間に危害を与えたり、暴走しないようにするために、ますますAIアライメントが重要になるとのこと。

    能力を抑える面も否めません。だから、最大限に能力を発揮させようと、強欲な人間のように振る舞うよう学習させる開発者が現れそうです。それは怖い話です。

    現在検討されているAI規制は、AIの能力制御までは対象としていません。今後の重要課題となりそうです。その意味でもOpenAIは超知能対応など常に一歩先を行ってますね。

    AIアライメント前のGPT-4を見てみたいです。


  • NewsPicks Content Curator

    AGI(汎用人工知能)へと発展させていく上での課題や懸念は、どう乗り越えていくことができるのか、研究者の1視点としてまとめられていて、おもしろかったです


アプリをダウンロード

NewsPicks について

SNSアカウント


関連サービス


法人・団体向けサービス


その他


© Uzabase, Inc

マイニュースに代わり
フォローを今後利用しますか