ChatGPTのようなモデルを高速生成するツール、Microsoftが開発 「既存技術の15倍以上」うたう
コメント
注目のコメント
言語モデルの機械学習プロセスでは知識を学習させることはできても、生成結果のニュアンスをユーザーの期待値に合わせるのが難しい。人間でも博学で頭のいい人だけどコミュニケーションをしにくい人がいるのに似ている。
これをLLMの学習にはとても膨大な計算が必要なこともあり、この問題を機械学習プロセスにおける試行錯誤で修正するのは難しいため、人間からの反応を直接受けて学習させる強化学習フレームワーク(RLHF)でその行動を強制することができるというのがChatGPTの示したイノベーションでした。
RLHFのプロセスを自分で走らせるには、人間のインプットを収集するか、それに相当するインプットをしてくれるモデルが必要になります。RLHF自体が簡単にできることは素晴らしいのですが、どのようなモデルのアウトプット変化に対して、どのような入力が効果的なのか、などの知見はまだ持っている人は非常に少ないため、このツールを使いこなせる人は現時点ではかなり少なそう。それでもMSがこれをリリースしてきたということは、B2Bにおけるモデルチューニンググの市場を狙ってることを示している。文中のRLHFは、Reinforcement Learning from Human Feedbackといって、AIが出した回答を人間が「いい・悪い」と逐一フィードバックする強化学習スタイルの一つです。ChatGPTは、OpenAIが作った別の自然言語ライブラリ「GPT-3」を同様にRLHFで強化したところ、過去超えられなかった自然な会話の壁を突破し、現在のような素晴らしい結果となりました。
今のChatGPTの問題は、ビジネスで利用しているとどうしてもAPIの返答に時間がかかってしまうこと。Microsoftは上記学習手法に加え、大きな資金力を背景にアウトプット速度を15倍早くしたモデルを今回リリースしました。
ムーアの法則ならぬAI技術でも、加速度的な成長が今後望めそうです。OpenAIの技術を原液としてMicrosoftが代理店的に生態系を作っていく構図になりそうですね。
これにより独自メソッドを学習した予備校の自分専用講師や、ライザップのような食事制限＋トレーニングで寄り添ってくれるジムのトレーナーなど、多様なAIサービスが誕生していくことが容易に想像できますね。
そうすると、今まで以上に価格が下がり、利用者が増え、今まで手が届かなかった寄り添ってくれる系のサービスをみなが使えるようになって、知的・肉体的・精神的に研鑽しやすくなる未来になるように思います。
