2023/6/1

【激闘】続々登場「AIがつくったコンテンツ」を見抜く技術

The New York Times

NewsPicksでは週7日毎日、世界のトレンドの背景を追うシリーズを開始しています。木曜日は「Next Big Thing（次のテクノロジー）」です。

INDEX

• AI危機は「ビジネスチャンス」
• 「コンテンツの信頼性」を追求
• 大手企業も、政府も、OpenAIも
• AI検出は「いたちごっこ」
• AI生成物に「ラベル」を付ける

AI危機は「ビジネスチャンス」

2022年、ロシア出身の企業家アンドレイ・ドロニチェフは、SNSでウクライナの大統領がロシアへの降伏を示す動画に目を疑った。

動画はすぐに合成された「ディープフェイク」だと暴かれたものの、ドロニチェフはこれを懸念すべき兆候と見た。

2023年になり、彼の懸念は次第に現実へと近づきつつある。混乱を招く可能性があるにもかかわらず、多くの企業がこぞってAI技術を向上･公開し始めたからだ。

A deepfake of Ukrainian President Volodymyr Zelensky calling on his soldiers to lay down their weapons was reportedly uploaded to a hacked Ukrainian news website today, per @Shayan86 pic.twitter.com/tXLrYECGY4

— Mikael Thalen (@MikaelThalen) March 16, 2022

コメント

注目のコメント

• 佐藤 元則

  NCB Lab. 代表

  ・2023年06月01日

  AIが作ったものにはラベルを貼る？意味があるのでしょうか。それは正しいものなのか、心地よいものなのかの判断は、最終的には見る人、聞く人の判断に委ねられます。今でも、世の中はデマで溢れかえっています。
• 椿 奈緒子

  メンタリング株式会社 代表取締役 ／新規事業人

  ・2023年06月01日

  > ディープフェイクを自動検出し、それが悪意のあるものかを判定するアルゴリズムの開発を目指すプログラム
  
  精度もまだまだですし日本語はまだのようなので実用までは時間がかかりそうですね。
  
  最近実務でも気になるのが、オウンドメディアなどの記事外部発注で、知り得ない場所でAI作成による悪影響があるのではという懸念。納品時に正誤含めチェックをしてその人なりの人間的改変があれば良いのか？どこまで使って良いのか？バレやしない中で、チェック側の判断も悩む時が来そうと思います。
  
  どなたかのコメントで記事納品でChatGPT利用が目立っていると拝見し、確かに！と意識するようになりました。気づきに感謝です。
• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年06月01日

  フェイクを見抜く技術は今後極めて重要です。著作権侵害とかではなく、独裁者やテロリストによる悪意ある情報操作の痕跡を見つけるためです。選挙中に使われれば、世論が誘導され、民主主義の根幹を脅かしかねません。
  
  G7サミットで各国首脳が生成AIを取り上げたのもそれが理由でしょう。来年の米国大統領選挙が1つの焦点になりそうです。