OpenAI、「GPT-5」の開発はまだ--アルトマンCEOが明言
コメント
注目のコメント
理研RCCS(要は富岳を稼働させているセンターです)の松岡センター長、曰く、
「ところでBERTからGPT4まで急速な進化を遂げたLLMの進化ですが、今後は少なくとも事前学習モデルの進化のスピードは周囲の期待に反して全般的には遅くなるでしょう。それは、学習に用いるスパコンが世界の汎用スパコンのトップレベルに急速に追いついてしまったからです。」
https://twitter.com/ProfMatsuoka/status/1645703054103314432
とのことです。GPT-5もですが、個人的にはGPT-4の利用コスト低減が一番着目点です。
GPT-4の特徴の一つとして、最大32000token(英文でPDF52ページ!)もの大量情報を入力とできます。
一方で、API利用料金はざっくり1000文字8円と高額です。現状サービスとして運用するには制約が大きいですが、裏側のリソース最適化がどうなるかが着目ポイントだと考えます。
ここらへんは量子コンピューティングの発展も関係してきますし、OpenAIも公言はせずとも量子コンピューティングのパートナー企業もいるみたいなので、是非追っかけていきたいですね。専門外で3、5と5 の違いが正直わかりません。
3、5が学生の中でも普及し、学生の中にも浸透していることを感じています。多くの授業の中でAIを使ってのレポート執筆を規制するレギュレーションが最近足されていることに驚きました。