［３０日　ロイター］ - 「私、実はロン・デサンティス氏が大好きで」。あろうことか、共和党の大統領指名獲得争いに出馬したフロリダ州知事を支持していると暴露する民主党のヒラリー・クリントン元米国務長官。「この国が必要としているのは正に彼のような人。本気でそう思います」──。

バイデン米大統領も、ついに本性を露わにする。性別と性自認が一致しないトランスジェンダーの人物に対し、「おまえが本当の女性になれるものか」と暴言を吐くのだ。

２０２４年米大統領選挙戦へようこそ。ここでは「現実」をでっちあげ放題だ。

クリントン氏とバイデン氏そっくりの「ディープフェイク」動画は、ネット上の画像を基に訓練された人工知能（ＡＩ）が作成したもので、ソーシャルメディア上に何千件も転がり、二極化された米国政治の中で、事実とフィクションの境をぼやけさせている。

こうした合成メディアは数年前から存在していた。しかしロイターがＡＩやオンライン偽情報、政治活動などの専門家約２０人に行ったインタビューによると、「ミッドジャーニー」など新しい生成ＡＩツールが続々登場したことで本物そっくりのディープフェイクが安価に作成できるようになり、この１年で利用に拍車がかかっている。

「有権者が本物と偽物を見分けるのは非常に難しくなるだろう。トランプ氏支持者、あるいはバイデン氏支持者がこの技術を使って相手を悪者に仕立て上げることは想像に難くない」と、ブルッキングス研究所のテクノロジー・イノベーション・センター上級研究員、ダレル・ウェストは語る。

「選挙の直前に何かが投下され、だれも対処する時間がない、といった事態も考えられる」という。

先端技術が社会に与える影響を研究する非営利団体、センター・フォー・ヒューマン・テクノロジーの共同創設者、アザ・ラスキン氏は、ＩＴセクターがＡＩ装備競争を繰り広げる中、有害な偽情報から人々を守る仕組みが整わない状態でディープフェイク生成ツールが発表されている、と指摘する。

共和党の大統領候補指名をデサンティス氏らと争うトランプ前大統領自身、今月初めに自らのソーシャルメディア「トゥルー・ソーシャル」でＣＮＮキャスターのアンダーソン・クーパー氏を加工した動画を公開した。

この動画ではクーパー氏が「ＣＮＮの大統領選集会中継で、私たちをさんざんたたきのめしているのはトランプ大統領だった」と語っているが、言葉と唇の動きは一致していない。

ＣＮＮは、映像はディープフェイクだと説明した。トランプ氏の代理人はコメント要請に応じなかった。動画は息子のドナルド・トランプ・ジュニア氏のツイッターに今週も残っている。

フェイスブック、ツイッター、ユーチューブなどの主要なソーシャルメディア・プラットフォームはディープフェイクの禁止と削除に努めているが、その有効性にはばらつきがある。

＜ペンス氏のディープフェイクなら可能＞

合成メディアの検知に取り組むディープメディアによると、昨年の同時期に比べ、今年はオンライン上で動画のディープフェイクが３倍に、音声ディープフェイクが８倍に増えている。

同社の推計では、今年ソーシャルメディアにアップされるディープフェイク動画・音声は全世界で約５０万件に上る見通しだ。音声のディープフェイクを作成するコストは、昨年末までサーバー代とＡＩの訓練費合わせて約１万ドル（約１４０万円）だったのが、今ではスタートアップ企業が数ドルで提供しているという。

生成ＡＩによって世界がどう変わるか、大量の偽情報を拡散する生成ＡＩの威力から人々を守るにはどうするべきか、確かなことはだれにも分からないと、取材に答えた人々は語った。

対話型ＡＩのチャットＧＰＴによって業界を一変させたオープンＡＩ自体、この問題と格闘している。サム・アルトマン最高経営責任者（ＣＥＯ）は今月議会で、選挙を巡る情報の真偽は「懸念すべき重大な分野」だと位置付け、生成ＡＩセクターに対する迅速な規制を要請した。

ロイターが主要な生成ＡＩサービス企業６社の利用規約を調べたところ、一部の小規模なスタートアップ企業と異なり、オープンＡＩは自社サービスの政治利用を制限している。

しかしそこには抜け穴がある。

例えば、オープンＡＩは同社の画像生成ツール「ＤＡＬＬ─Ｅ」による公的な人物の偽画像生成を禁じている。実際、ロイターがトランプ、バイデン両氏の画像生成を試みたところ、拒否され、「わが社のコンテンツ規約に違反している可能性がある」とのメッセージが表示された。

ただロイターは、来年の大統領選出馬を検討しているペンス前副大統領を含む米政治家少なくとも６人の画像を生成することには成功した。

オープンＡＩは、ＡＩが有権者に大量の電子メールを送るなど、サービスを政治目的で「大規模に」利用することも制限している。

一部の小規模なスタートアップ企業は、政治的コンテンツについて明示的な制限措置を設けていない。

ＡＩによる画像生成サービスで首位に立っているのが、昨年誕生したミッドジャーニーだ。同社のサーバー「ディスコード」のユーザーは１６００万人。有名人や政治家に酷似した画像を生成できるためＡＩデザイナー・アーティストの間で人気が高い。画像の量や生成スピードなどに応じ、料金は無料から月額６０ドルまで選べる。

ミッドジャーニーはコメント要請に応じなかった。同社のデービッド・ホルツＣＥＯは先週、ディスコード上のチャットで、大統領選に向けて偽情報対策のためにサービスに変更を施す可能性が高いと述べている。

＜共和党がＡＩ生成広告＞

業界が生成ＡＩの悪用防止に努める一方、政界自体が生成ＡＩを選挙戦に活用しようとする動きもある。

今のところ、ＡＩが生成した米国の政治広告は、共和党全国委員会（ＲＮＣ）が４月末に公表した３０秒広告が唯一の著名な事例だ。全面的にＡＩが生成したことをＲＮＣが公表しているこの広告は、バイデン氏が再選されれば中国が台湾に侵攻し、サンフランシスコは犯罪が横行して閉鎖されるという、破滅的なシナリオをフェイク画像によって表現している。

ロイターは共和党の大統領選候補者全員にＡＩの利用についてアンケートを実施。大半は回答しなかったが、ヘイリー前国連大使の陣営は利用していないと答えた。

一部陣営の後援者にとっては、コストを下げて強力な相手と闘いやすくするという意味で、選挙戦用の電子メールや郵便物、広告の作成に生成ＡＩを使うことは抗い難い魅力のようだ。

ミシガン州で共和党の選挙運動に携わっているジョン・スミス氏は、ＩＴに強い若者に対抗できるよう、ソーシャルメディアや広告作成へのＡＩ活用法を学ぶ集会を開いている。「６５歳で職業は農業、郡政委員を務める男性は、テクノロジーを使う若い連中に簡単に予備選で打ち負かされてしまうだろう」と危機感を口にした。

（Alexandra Ulmer記者、 Anna Tong記者）