大統領の発言も合成可能

想像してほしい。紛争や暴動、警察の不祥事や災害のニュースが信用できない世界を。世界的リーダーが公の場、あるいはプライベートで口にした言葉が「本物」とは限らない世界を。作り話と真実の見分けがつかない世界を。そんな世界で民主主義は、経済は、社会はどうなってしまうのか。
テクノロジーの進化により、今では10年前には考えられなかった形でデジタルの画像、映像、音声を加工することができる。高機能な編集ソフト、強力な機械学習アルゴリズム、そしてかつてない計算能力を持つコンピュータが普及し、実物そっくりのフェイク（偽物）を誰でも簡単に作れるようになった。
冒頭で書いたような未来はすでに到来している。ある人物が話している声を数時間録音すれば、その音声を自在に加工し、好きなことを言わせることができる。またある人の画像を数百枚集めれば、別人の身体や表情、頭の動きと合成し、まったく別の映像が作れる。
こうした技術を合わせて使えば、国家元首のリアルなフェイク動画も作成できる。会見で核攻撃を発表させることも、選挙に勝つために外国と共謀したとオフレコの会話で白状させることもできる。
一般人に違いはわからない。仕上げにフェイク動画をソーシャルメディアに撒けば、専門家がフェイクと見破る間もなく動画はたちまち拡散する。そうなってからあれは嘘だと説得しても、人は信じない。

リアルよりも関心を引くフェイク

さまざまな組織がフェイクの事実とフェイクの現実をつぎはぎして世界を捏造し、インターネットにばらまく暗い未来へと、私たちは突き進んでいる。いや、そんな世界はすでに、少しずつ出現している。
たとえば、フロリダ州パークランドの高校で起きた銃乱射事件の生存者エマ・ゴンザレス。彼女が合衆国憲法を引き裂いている偽のGIFアニメは、あっという間に拡散し、フェイクと証明された後も広まり続けた（オリジナルの画像でゴンザレスが破っているのは、射撃場で使われる標的だ）。
偽物のGIFアニメは今もシェアされ、銃規制を訴えるゴンザレスと仲間の高校生はみな金で雇われた「俳優」で、銃規制運動自体がヤラセだとする陰謀論を煽っている。
改竄された画像、映像、フェイクニュースと陰謀論がウィルスならば、ソーシャルメディアは宿主だ。フェイスブック、YouTube、ツイッターはそうしたコンテンツを見逃しているだけではない。利益のために、積極的に奨励している。
SNS企業にとって、ビジネスモデルの要はエンゲージメント。大勢のユーザーが長時間、何も考えずにクリックし、「いいね！」を押し、シェアし、ツイートすればそれだけ収益は伸びる。そして往々にして本物よりも人の関心を引くのはセンセーショナルでショッキングで、ときにはフェイクなコンテンツだ。

求められる広告主の実力行使

私たちがセンセーショナルなコンテンツに引きつけられるのには心理的な理由もあるが、ソーシャルメディア側にも非はある。
フェイスブックの創始者にしてCEOのマーク・ザッカーバーグが公聴会で何度も誓ったように、SNS企業にはクリックベイト（NP注：ユーザーの興味を引きクリックさせるために、実際の内容と異なる扇情的なタイトルをつけること）を減らし、より有意義で信頼性の高いネットワークを作る責任がある。
そのためには方針と商慣行の転換、新たなテクノロジーの開発と普及が必要になるだろう。
フェイクニュースがウィルスでSNSが宿主ならば、広告主はワクチンだ。SNSの生命線は広告料。なれば巨大企業が影響力を行使すれば、流れは変わる。SNSがより社会的責任のある運営をするようになるまで、広告を出さなければいい。状況を改善したいならば、企業はその力を使うべきだ。
だが、企業任せではいけない。消費者の私たちも知恵をつけ、見る目を養わなければならない。狭い世界で自分と意見が同じ人々とばかり交流するのをやめて、より広い視野から事実や現実に向きあい、SNSと広告主に責任ある行動を促さなければならない。

SNS側の自主規制は期待薄

また私を含め研究者には、一般市民がリアルとフェイクを識別できるテクノロジーを開発し、普及させる役目がある。とはいえ、デジタルメディアの加工技術は急速に発展しているから、歩調を合わせて対抗するのは至難の業だ。
どこの国でも研究助成機関は、私も参加している国防高等研究計画局（DARPA）の「メディア・フォレンジック（MediFor）」のようなプログラムを立ち上げ、画像や動画の真偽を判別する次世代のツールの開発を後押しするべきだ。
SNS企業が高まる脅威を放置するなら、政治家の出番だ。
EUはすでにフェイクニュースに対し、法規制を含めた対策を検討している。昨年、フェイスブック／ケンブリッジ・アナリティカの個人情報流出事件を受け公聴会が開かれたアメリカでも、議員は──当然のことながら──シリコンバレーの自主規制を待っていても埒が開かないと感じている。
未来は失われていないが、はかないものだ。過去10年のやり方をこれからも踏襲するならば、私たちに待ち受けるのは事実と現実が遠い過去の遺物となったディストピアだ。
だが、諦めるのは早い。上に挙げた改革を実施すれば、インターネットを希望に満ちた最初の形に戻し、その途方もない力を制御できるだろう。
原文はこちら（英語）。
（執筆：ハニー・ファリド/Computer science professor at the Dartmouth College、翻訳：雨海弘美、写真：bortn76/iStock）
© 2019 Quartz Media, Inc.
This article was translated and edited by NewsPicks in conjunction with HP.