2021/3/18

最先端「ディープフェイク技術」がもたらす明と暗

The New York Times

INDEX

• SNSで話題の「そっくり動画」
• 偽トム・クルーズができるまで
• フェイクを証明する方法
• 社会運動の啓蒙に活用
• 悪用されるケースも多発
• 「死」を曖昧にするツール

SNSで話題の「そっくり動画」

実在の人物の映像と、コンピューターで作成されたフェイクの映像の区別がつかない――そんな未来を恐れている人々にとって、最近注目を集めた2つの出来事は不穏なものに思えたかもしれない。

ひとつ目は、視覚効果アーティストがトム・クルーズのものまね俳優と協力して、驚くほど本人そっくりの動画を制作したこと。

機械学習を活用した「ディープフェイク」として知られる技術を使ってつくられたこの動画は、2月下旬にTikTokやツイッターをはじめとする各種ソーシャルネットワーク上で何百万回も視聴された。

ふたつ目は、70年代から80年代にかけてカリフォルニア州で少なくとも12人を殺害した「黄金州の殺人鬼」の身元特定に役立ったことで知られる、家系図サイトの「MyHeritage（マイヘリテージ）」が、すでに亡くなっている家族などの古い写真からデジタル動画を作成できるツールの提供を始めたこと。

マイヘリテージによれば、写真の人物が頭を動かしたり笑顔になったりする短いループ動画を作成できる新機能「Deep Nostalgia（ディープ・ノスタルジア）」を使って作成された動画の数は、3月8日時点で2600万点を超えたという。

コメント

注目のコメント

• 安居 優弥

  マーケティングディレクター

  ・2021年03月18日

  こういう分野こそ、ブロックチェーン活用が効果的ではないでしょうか。ブロックチェーンに一時情報や編集者の名前、利用したツールなどを記録として残す。それは他のメディアに掲載されたり、SNSでシェアされたりしても消えない記録。
  むしろ、ブロックチェーンで出どころや責任者が明らかになっていない情報は信用しない、くらいのリテラシーと技術環境が整えば、ディープフェイクの魅力と危険性をある程度コントロールできるように鳴ると思います。
• 千葉 知世

  大阪公立大学 准教授

  ・2021年03月18日

  文字や画像に比べて、動画をフェイクだと疑ってかかる人は少ないと思います。
  ディープフェイク技術、アバターの頃から話題だったような気がしますが、もはや誰でも使える安価なものになってきた以上、何も安直には信じられませんね。
  むしろディープなフェイクの世界が、現実世界とパラレルで存在するようになりそう。リアルとフェイクの２つの世界がどうコミュニケーション取るのかに興味があります。
• 葉村 真樹

  ボストンコンサルティンググループ パートナー＆ディレクター

  ・2021年03月18日

  ディープフェイクはもはや所与のものとして、社会制度や技術応用を考えるフェーズに入った。
  
  この技術は本記事でも指摘されているように、多くのことを可能にするが、基本的には多くの明は、暗と表裏一体であり、個人的には（可能ならば）禁止すべきと考えるくらいに思っている。この流れは止めることは不可能だ。（個人的にも、この手の技術を使ったアプリで楽しんでますし）
  
  とは言え、著名人のディープフェイクが大衆扇動したり、リアル映像を「ディープフェイクだ」と政治家が逃げ回ったり、社会的に無視できない問題が起こるのは必至であり、その事態を想定した技術に裏付けされた社会制度構築は必要だろう。例えば、あらゆる「映像」に関して、それこそ分散型管理プロトコルによる画像データの認証などを制度化することなども考えられる。
  
  しかし、それでも解決すべき課題が非常に多い。ディープフェイクが蔓延る未来はディストピアであることは前提で今から対応策を考えなければならない。