2023/4/20

【AI画像】もはや「目に見えるものが真実」ではなくなった

The New York Times

NewsPicksでは週7日毎日、世界のトレンドを追うシリーズを配信しています。木曜日のテーマは「Next Big Thing 次のテクノロジー」です。

INDEX

• フェイク画像が「現実」を浸食
• AI生成画像の「弱点」
• トランプ大統領が「脱獄」？
• 「勝手にコピー」AIの脅威
• 「著作権」は誰の手に？
• 「透明性の高い」フェイク動画
• AIから支払われる「勉強代」

フェイク画像が「現実」を浸食

もうずっと以前から、目で見たものが真実ではなくなっている。写真の歴史はほぼそのまま、写真のねつ造や改ざんの歴史でもある。

今では本物らしく見せるためのリアリティさえ求められていない。プロンプトを入力すればAI（人工知能）が写真を生成してくれる。専門家でも写真が「本物」かどうかを見分けるのに苦労することがある。あなたには見分けがつくだろうか？

AIの急激な台頭に有識者は警鐘を鳴らしている。人をだますのに使われるテクノロジーが、それを見分けるテクノロジーよりもはるかに急速な進化を遂げているからだ。

テック企業、研究者、ストックフォトサービス会社や報道機関は、なんとかしてその進化に追いついて、コンテンツの出どころや所有権に関する基準を設けようとしている。

（写真：imaginima/iStock/Getty Images）

コメント

注目のコメント

• 髙橋 宏瑞

  順天堂大学医学部総合診療科 准教授

  ・2023年04月20日

  マトリックスのCMで、CGで作られたキアヌリーブスが本物と区別がつかなかった事を思い出しました。もの凄い精度ですね。
  
  ネット情報の真偽を確かめる方法が無くなっていき、レコメンド機能や検索機能がどんどん進化していくと、真偽の判断は出来なくなり、自分の信じたい情報を信じる傾向が高まると思います。
  
  自分の頭で考えて行動していると思っても、実は過去にインプットされた情報をもとに人は動いているので、AIネイティブの世代はかなり常識に多様性のある世代になるのではないでしょうか。
  
  信頼性のある情報源にアクセスして、正しい情報を得る情報事が重要になりそうだと思う一方、マジョリティの信じる事が正しいという方向にも向かもしれません。
  
  コメントしていて思いましたが、やはり何らかの規制を作り、最低限の秩序を維持した方が良い世界になりそうです。
• 佐藤 元則

  NCB Lab. 代表

  ・2023年04月20日

  AIを使うまでもなく、現在も写真の合成や修正は行われています。フェイク写真や動画には何となく違和感を感じます。
  
  人間の手作業ではなく、AIがそれをやってくれるところが新しい。この分野は超速に進化するでしょうね。漫画も映画もすべてAIという時代が来る？
• 平松 伊織

  PdM

  ・2023年04月20日

  現在の画像生成AIの精度の発達のスピードは、凄まじいものとなっています。数か月前であれば、手が正確に描けているかどうかを確認することでAIかそうでないかを判別できました。
  
  しかし、今回ご紹介しているような、ダウンジャケットを着るローマ法王や国旗を背に行進するトランプ大統領の画像のレベルとなると、一目見るだけでは正直判断が難しい状況となっているのを感じるのではないでしょうか。
  
  今回は、猛烈なスピードで発達しつづけるテクノロジーのいわば「悪用」と、それに対してタックルする企業の取り組みをご紹介します。