チャットGPT「プロンプト・インジェクション」に3つのリスク

コメント

注目のコメント

• 水田 巴

  零細IT屋さん 代表取締役社長

  ・2023年04月07日

  直接的または間接的な「プロンプト・インジェクション」の埋め込みによってチャットボットに悪意のある誤動作をさせることが如何に容易いか、それなのにその「毒」に対する特効薬、修正方法が存在しないという危険性。今のところ対策は明らかに後手後手になっており、事態に追いついていないことが大問題。
  
  「言語モデル自体が、その上で悪意のコードを実行できるコンピューターとして機能するのです。つまり、私たちが作っているウイルスは、完全に言語モデルの『心』の中で動いているのです」。