2023/7/8

【ミニ教養】ChatGPTの「本性」が恐ろしい

森川 潤
NewsPicks NY支局長
このコラムは、世界のビジネス、テクノロジーのコンテキストを学びつつ、ついでに英単語も一つ覚えられるお得な連載です。
INDEX
  • アルトマンの「絶句」
  • 「知性を失う手術」について
  • ChatGPTは「調教済み」
  • 調教前のモンスターの本性

アルトマンの「絶句」

メタ社のThreadsの盛り上がりもあって、ようやく生成AI狂騒曲も収まってきたかと感じる今日このごろ。
実際、ChatGPTの伸びも、一度はピークを打ったようだ。
とはいえ、それでも最新モデルの「GPT-4」のAPIの一般提供が始まったり、ChatGPTのデータ分析やチャート作成ができる超強力な公式プラグイン「Code Interpreter」がすべての有料ユーザーに開放されたり、と開発のスピードは全く落ちていない。
何より、CEOが一時たりとも止まることがない。
6月中旬に、サム・アルトマンが日本を再訪し、慶応大学の学生たちと対話したことが報じられたけれど、直近で彼が訪れた国の数はなんと「22カ国」に上る。
各国で、学生だったり技術者たちと話したわけだが、その中で印象的な瞬間があった。
それがイスラエル訪問時のことだ。
この国のセッションでは、アルトマンだけでなく、イスラエル在住経験もあるチーフ・サイエンティストの共同創業者イリヤ・サツキーバーも参加する強力な布陣だった。
だが、テクノロジーに強いお国柄なのか、歯に衣着せぬ議論を好む国民性なのか、イスラエルの参加者たちは、登壇者2人が嫌がりそうな質問をガツガツと聞いていく。
まず、1つ目の質問。
「オープンソースのLLM（大規模言語モデル）は、GPT-4の能力に追いつくのか。誰にも教えていないGPT-4にしかない秘密のソースがあるのか。検閲なしのオープンソースを使っている私は時間を本当にむだにしているのか。教えてください」
完全公開のオープンソースの進化が盛り上がる中で、クローズドを貫くOpenAIにとっては答えにくい質問だ。
👆の動画を見てもらえれば、聴衆で拍手が巻き起こる一方で、OpenAIの2人があっけに取られている様子が分かる。

「知性を失う手術」について

で、今回取り上げたいのが、2つ目の質問だ。