チャットGPTがウイルス作成 開発者装うと悪用可能に
コメント
選択しているユーザー
技術的には、ナンセンスな話をしてるなという感じはするのだけど、確かに「悪用可能」にといえば、そうなのかも。ただ、GPTに被せたインストラクションのレイヤーが回避可能だとして、生のGPT3.5自体公開されてるのでそもそも関係ない話に聞こえてしまう。しかし、一般の人から見て、どうかという目線は確かに考える必要はありそう。
注目のコメント
開発者モードは、いわゆるブラウザにあるコンソールみたいなもの。GPTだと開発者モードに切り替えることで、プロンプトをチェックしたりスーパーユーザーになれたり回答前に候補として上がった結果を確認できる。
ChatGPTの今後の学習のため、制限をかいくぐって悪用できた特殊な命令をバグとしてOpenAIに報告してほしい。ただコードだとある程度検証し報告し続ければバグはなくなるけど、テキストの汎用性×犯罪者の想像力を考えると可能性がたくさんあるし、いたちごっこになりそう。