生成AIに熟慮促す仕組みが登場 Quiet-STaRで出力前の再考が可能に AGIへの試金石となるか?
コメント
注目のコメント
生成AIに熟慮を促すテクニックは、1年以上前から研究されており、真新しさはありません。
認知心理学における、速い思考・遅い思考、思考についての思考(メタ認知)などをプロンプトに活用して、自律性を与えます。以前、詳細をまとめたので、ご興味あればどうぞ。
生成AIを学び問う〜2.テクノロジーの視点
https://note.com/ray_30cm_ns/n/n2f4a57d37619まさにエージェントAIですね。今はプロンプトエンジニアリングのテクニックであった対話プロセスを自己完結して自ら実行するとも言えます。
難しいのは評価です。評価が不正確だと元も子もありません。GPT-4等でも一定の評価能力があります。たからレビューがそこそこ出来ます。しかし、万全とは言い難い。いかに評価を学習するか、次のブレイクスルーが待たれます。Quiet-STaRは、AIに出力前の「思考」を促す技術で、正答率を大幅に向上させます。スタンフォード大学とNotbad AIが開発したこの技術は、AIが各トークンごとに内省的なプロセスを持つことで、より正確な回答を提供します。これにより、数学問題や質問応答タスクでの精度が高まります 。今後、ビジネスや科学分野での応用が期待されます。