AIチャットへの質問、1割近くが「性的な内容」--安全なAIを目指す研究者らの取り組み

コメント

注目のコメント

• 淺間 康太郎

  富士通株式会社 Japan Change Leader / GenerativeAI Advocate / DX Officer補佐

  ・2023年10月12日

  プロプライエタリ（オープンソースでない）なモデルは往々にして、センシティブコンテンツに対してFine Tuningなどで制限を掛けるだけでなく、規約でも縛っています。
  脱獄が出来てしまう、というのは、それをすると規約違反でBANないし、最悪請求を受ける可能性も含まれていますね。
  包丁が人を殺せてしまうけれどもスーパーで普通に売られているように、脱獄出来てしまうことそのものが大きな問題であるとはあまり思えません。
  一方、オープンソースはFine Tuningにそこまでコストを掛けていないケースが多いので容易にセンシティブなコンテンツが生成されてしまう、場合によっては意図せず出力されてしまうことがあると思われ、これは全く別で問題視すべきポイントかなと。
  もちろんオープンソースも規約はあるのですが、nsfw（not safe for work）なコンテンツへの機能的ブロックは、エンタープライズユースにおいて必須になりえると思います。
• 生澤 雄一

  フリーランス翻訳者

  ・2023年10月11日

  AIの技術が一般化してくると、そういう会話が得意なAIを誰かが作ってビジネスにするだろね。
• Yuji Ishii

  フリーランス CIOアドバイザリー/InsurTech

  ・2023年10月12日

  Siriにすら性的な内容をインプットする人がいる中で、こういうのがあるのは目に見えていました。