米OpenAI「公表しないで」 ブラックボックスであるLLMの中身を“盗む”攻撃 米Googleらが発表
コメント
選択しているユーザー
> 「責任ある情報公開の一環として、OpenAIはこの数値を公表しないよう求めている」と書かれており、gpt-3.5-turboの隠れ層のサイズが伏せられている
Google DeepMindも、OpenAIとケンカしたいわけではないので、論文の公表前にOpenAIに確認をとる大人の対応をしたのですね。
この攻撃手法は、LLMの構造に熟知した者の発想。LLMを開発しているGoogle DeepMindだからこそ発見できた攻撃かも。