AIは人間の脅威となり得るか?「AIアライメント」が重要な理由
探検する知、創造する未来
43Picks
コメント
注目のコメント
AIアライメントは善良な人間のように振る舞うために必要な学習です。汎用AIに近づくにつれ、人間に危害を与えたり、暴走しないようにするために、ますますAIアライメントが重要になるとのこと。
能力を抑える面も否めません。だから、最大限に能力を発揮させようと、強欲な人間のように振る舞うよう学習させる開発者が現れそうです。それは怖い話です。
現在検討されているAI規制は、AIの能力制御までは対象としていません。今後の重要課題となりそうです。その意味でもOpenAIは超知能対応など常に一歩先を行ってますね。
AIアライメント前のGPT-4を見てみたいです。AGI(汎用人工知能)へと発展させていく上での課題や懸念は、どう乗り越えていくことができるのか、研究者の1視点としてまとめられていて、おもしろかったです