2023/8/22
【大混乱】世界を埋め尽くす「AIフェイク」の狂った現実
NewsPicks 編集部 記者
INDEX
- アメリカで波紋「AI中傷合戦」
- 「無法地帯」のAIモデル共有サイト
- 俳優の画像が、自らの仕事も奪う
- フェイクを「見破る」技術
- 「AI製」をラベリング
- SNSで拡散をどう防ぐか
INDEX
プレミアム会員限定の記事です
今すぐ無料トライアルで続きを読もう。
オリジナル記事 7,500本以上が読み放題
オリジナル動画 350本以上が見放題
The Wall Street Journal 日本版が読み放題
JobPicks すべての職業経験談が読み放題
コメント
選択しているユーザー
吊橋効果の実験で恋心は関係ないというのを最近知った。
そもそも信頼できる研究じゃないらしい。[1]
みたいな、「なんとなく見聞きしたことを勝手に真実だと思い込んでた」なんてことは、フェイクだけでなく今までも同様にあったと思う。
その点で「一次情報にあたる」「信頼できる機関や組織が発信してることを確認する」というリテラシーは、フェイク動画・画像に対しても有効かなと思うので、より意識できるといいのかなと
[1] https://twcu.repo.nii.ac.jp/record/26794/files/73-1_161.pdf
注目のコメント
「ディープフェイク」なる造語が世界で使われるようになってから、5年ほど経ちます。
Deep LearningとFakeを合わせてできた言葉です。
ネット上、特にソーシャル・メディアにフェイク画像やフェイク映像が流布されるようになったのは、何年も前のことです。
しかし、ビッグデータを学習したAIで、フェイクの画像や映像、音声を簡単に生成できるようになってから、「ディープフェイク」は、質、量ともに、従来をはるかに上回るようになりました。
「トランプ氏がこういう演説をしていた」とか、「あの有名俳優がこんな不祥事を」といったフェイク動画を、本人が話しているようにしか聞こえない音声でつくって、ネット上に流すことも簡単にできるようになりました。
ある程度組織的にやれば、株価の操作くらいはできるし、実際にやっている集団もあります。
怖いのは、民族や宗教に基づく過激思想を持つ集団が、暴動などを起こすのにも簡単に使えることです。
「～人の男たちが我々の民族の女の子を誘拐して車で連れ去っている」動画を、女の子が助けを求めて泣き叫ぶ声も入れて、簡単につくることができます。それをソーシャル・メディアに何千と流して、「あの男たちはどこそこの町のこの地区にかくまわれている」といった情報もしばらくしてから流せば、効果があるでしょう。
ロシア・ウクライナ戦争でも、すでにロシア側のこういったディープフェイク工作は活発ですが、たとえば、今、一触即発で大規模な戦争が勃発しようとしているニジェールなどの西アフリカの情勢については、毎時、ものすごい量の、ディープフェイク動画を含むフェイク情報がバラまかれています。ロシアの関与もあるでしょう。
ミャンマーでロヒンギャが迫害される際にまずフェイスブックでフェイク画像が拡散されるとか、ソーシャル・メディアを政治扇動に使うことは、もう10年以上前からありますが、今はさらにひどくなり、悪貨が良貨を駆逐する勢いです。
ソーシャル・メディアが、情報収集の役に立たなくなりつつあり、むしろ社会的な弊害の方が大きくなるのが止められなくなってきています。ディープフェイクが選挙に与える影響は計り知れません。これは選挙を歪める民主主義の根幹を脅かす問題です。
日本で政治家フェイクが少ないのは、政治への関心が薄いから、そこまでして当選させたい政治家が少ないからかもしれません。AdobeStockにも生成AIで作成された画像がアップされています。画像の右横には、生成AIで作成されたことが明示されています。その精度は高い。
普通の写真よりも手を入れているので、作成コンセプトが色濃く反映されています。最近のNCBレポートには、生成AIで作ったものが多くなりました。参考までに、以下のサイトの赤いバラの写真は生成AIです。
https://www.ncblibrary.com/posts/118927
