架空の顔で「お客様の声」「大満足」…ＡＩで生成、９０サイトで宣伝に悪用

コメント

選択しているユーザー

• 小峰 弘雅

  株式会社ベイカレント・コンサルティング／ カーボンニュートラルチーム JDLA研究会「AIデータと個人情報保護」／ 副座長

  ・2021年06月14日

  ついに日本でも悪用するケースが来ましたか！？
  海外のケースはありましたが、日本でも起きたということは、技術が社会に認知されてきた証拠でもあります。
  
  GANという画像生成技術で架空の顔を作ることができます。
  GPTという文章生成技術を使えば、架空の口コミを作ることができます。
  
  技術は悪用されれば、凶器になり得ます。
  包丁が美味しい料理も作れるけど、武器にもなるように。
  
  社会として技術の魅力と脅威を理解し、技術進展を鈍化させることがないことを願います。

注目のコメント

• 山崎 俊彦

  東京大学 大学院情報理工学系研究科電子情報学専攻　教授

  ・2021年06月13日

  肖像権フリーの人物画像も多く使われていますが、こちらはその画像をクエリとしてネット検索すると大量に同一の画像が出てくるので、リテラシーのある人なら気づくことができます。
  
  ちなみに、AIで生成されたものかどうかというのも、それを判定するAIを使うと100%近い精度で(いまのところ)判別することはできます。そこまでやるひとはいないと思いますが、そのような証明書を出す機関とかも現れそうですね。
  
  でも、これって顔が出てれば信じる人が多いという話ですが、顔がなくてもネットの評判サイトで架空のコメントをアップして評価を釣り上げるというのはよく問題になっていて、いたちごっこ。結局利用者側がいかにリテラシーを上げるかってことに終着すると思います。
  
  最近、とある不動産投資の広告が出るようになったのでそこを覗いてみると
  ・確かな収益があって安心します
  ・営業の方も全然しつこくないです
  などの「利用者の声」がそれこそ顔写真付きで並びます。ただ、その会社さんはインタビュー時の複数の画像をアップされているのでAI生成のものとは考えがたいです。一方で、「その会社名＋評判」でグーグル検索すると、良くない意見も出るわ出るわ(笑)。自分はどちらが正しいかわからないですが、そのギャップをみて逆に楽しんでいます。
• 八田 浩

  株式会社ロケットスター 取締役　共同創業者

  ・2021年06月13日

  顔があるとなぜか信頼できそうに見えます。AIがどうこう、と言う前に、実在していないプロフィールなのであれば、普通に違法勧誘だと思います
• 佐藤 俊介

  CEOセオ 連続起業家兼アーティスト

  ・2021年06月13日

  この流れはもはや不可避で、ネットに拡がっているすべての情報に言える。ネットにはフェイクやギミックは当たり前と考えた方がが良くて、むしろ最初から鵜呑みにせず疑って見るしかない。まぁ辛い話ではありますが、、これからデジタルデトックスが必ず求められるでしょうね。