リスク予防に広告ツールを活用する
フェイスブックは「オンライン・シビル・カレッジ・イニシアティブ（Online Civil Courage Initiative、OCCI）」の協力者として、ロンドンの戦略的対話研究所（ISD）にも資金を提供している。
同研究所は「過激派に加わるリスクがある人にソーシャルメディアを使って働きかける」という課題に関して、大きな期待が持てそうな試験的プログラムを実施した。フェイスブックの広告ツールを利用して、ISISや白人ナショナリスト団体への参加リスクがあるユーザー154名を特定したのだ。
ISDの研究者は、アフィニティグループや年齢、性別などに従って広告ターゲットを選び出す機能を応用して、ヘイト団体とつながりがある人を見つけ出した後、プロフィール画像や投稿内容の傾向からリストを絞り込んだ。
注目したのは、暴力行為を擁護したり、そうした内容の投稿に「いいね！」をクリックしたりしているかどうかだ。
特定した該当者には、フェイスブックの「友達」でない人にコンタクトできる有料サービス（現在は終了）を通じて、過激派の元メンバーで脱過激化スキルの訓練を受けた人物がメッセージを送った。
その結果、3分の1以上のケースで、相手と最低5回のやり取りをする「持続的関与」が実現したという。組織から脱退したいと助けを求める人や、なぜ過激主義と決別したのかと質問してくる人もいた。
コンテンツ削除は逆効果の可能性
ISDのプログラムは、コンテンツ削除が逆効果になる可能性を浮き彫りにしている。
過激派への参加リスクがあると特定されたユーザーの25％はプログラム期間中、問題があるコンテンツを投稿したために、フェイスブックにアカウントを削除された。だが、これは賢い戦略ではないかもしれない。
例えば、ISISの動画をシェアしたとの理由でイギリスの若者のアカウントを停止しても、ISIS自体は何の痛手も負わない。それどころか、その若者に働きかけ、組織に勧誘されるリスクを防ぐチャンスが失われてしまう。
ISDのサーシャ・ハブリチェックCEOによれば、カウンターナラティブ・キャンペーンの目的は寛容などの価値観を強化し、過激派のプロパガンダに対して「レジリエント」なコミュニティを作ることにある。
ハブリチェックが指摘するように、公衆衛生分野のキャンペーン活動は喫煙率を下げ、セーフセックスの意識を高めることに成功した。
それと同じく、キャンペーンの対象者にとって信頼できる人々がメッセージを発信すれば、人種差別を食い止め、イスラム過激思想の引力を弱めることができるはずだという。
ISDが昨年行った研究では、フェイスブックやグーグル、ツイッター上のカウンターナラティブ動画に対して、ユーザーの反応は賛否両論に分かれた。こうした動画が視聴者の行動を変化させ、過激な主張への抵抗力を高めるとは言い切れない。だからこそ研究を続けていきたいと、ハブリチェックは話す。
グーグルの対応策「リダイレクト・メソッド」
フェイスブック以外の業界大手も同様の活動に乗り出している。
グーグルの持ち株会社アルファベット傘下の企業で、オンラインの過激主義の根絶に取り組むジグゾーは昨年1月「リダイレクト・メソッド」というプログラムのパイロットプロジェクトを開始した。
同プログラムでは、ISISへの加入を考える人が検索しそうな単語やフレーズ（「ジハードとは何か」など）の検索結果の横に、カウンターナラティブ動画の広告を表示する。そのクリック率は通常の広告より75％高かったと、グーグルは発表している。
フェイスブックは自殺予防に関して、これと似た対策を実施している。自殺を考えていることをうかがわせるオンライン行動を示すユーザーに、メッセージを送信するというものだ。
ならば、白人ナショナリスト団体やISISに引かれている傾向を示すユーザーにも、カウンターナラティブ動画を送ったり、直接的に介入したりできるのではないか──。
とはいえフェイスブック側は、踏み込んだ対応には積極的でない。自殺予防と異なり、過激主義対策に関しては、広く効果的なものとして確立されたコンテンツが存在しないからだという。
フィルタリングか、それとも検閲か
さらに大きな問題もある。フィルタリングと検閲、表現の自由と良識が折り合う地点はどこか──。フェイスブック人工知能研究所（FAIR）を率いるヤン・ルカンは昨年、カリフォルニア州のフェイスブック本社で開かれた会議で、記者団にそう問いかけた。
「テクノロジー自体は存在する、あるいは開発することが可能だ。だが、それを利用することは道理にかなうのか。答えるべき人物は私ではない」
その人物であるザッカーバーグは、ユーザーにカウンターナラティブを直接提供することには乗り気でないようだ。
対立解消のために「思いつきがちなアイデアの一部、例えば正反対の見解を述べた記事を紹介するといったやり方は、かえって分断を深めるとの研究結果がある」。ザッカーバーグは自身のフェイスブックページでそう語っている。
カウンターナラティブ活動は右派の反感にも直面している。彼らに言わせれば、フェイスブックがやっていることは思想の取り締まりだ。
OCCIの始動が発表された際には、保守派で知られるカナダの政治活動家でジャーナリストのエズラ・レバントが「右派のコンテンツを狙い撃ちにする、明らかな検閲プログラムだ」と非難した。
「活動を誇大宣伝したくない」理由
今年1月18日、ベルリンにあるドイツ連邦議会議事堂の会議室に、メディア関係者やロビイスト、議会スタッフら約200人が集まった。フェイスブック、ヘイトスピーチおよびフェイクニュースをめぐって、メルケル率いる与党・キリスト教民主同盟が企画した討議が行われるためだ。
討論者として参加したフェイスブックのドイツ政策担当責任者、エーファマリア・キルシュジーパーは、敵対的な姿勢をとる議員や学者、攻撃的な投稿を即座に削除しなかったとしてフェイスブックを提訴したテレビ番組キャスターを前に、防戦一方といった格好だった。
フェイスブックはヘイトスピーチやフェイクニュースとの闘いを真剣に受け止めていると、キルシュジーパーは主張。問題は「非常に複雑」であり、単純な解決策は存在しないと強調した。
しかし、居並ぶ政治家は耳を貸さなかった。ソーシャルメディアは「侮辱や非難や中傷が当たり前」の領域に化していると、メルケルの側近であるフォルカー・カウダー議員は批判した。
フェイスブックがヘイトスピーチ対策のOCCIによって、ヨーロッパで高まる反フェイスブックの動きをも抑え込むつもりだったとしたら、目論見は外れたようだ。
同社のリチャード・アラン欧州政策担当責任者によれば、カウンターナラティブ活動の存在を強くアピールしないのは、実験段階の取り組みだからだ。
「何かを試す必要があるし、それが効果的なら拡大していくべきだ」。とはいえ当面は「私たちの活動を誇大宣伝したくない」という。
小さな成果を積み上げていく
小さいながらも期待が持てる成果はいくつか生まれている。
ヨハネス・バルダウフのチームは2015年、ネオナチに傾倒しているとみられるドレスデン在住の学生にフェイスブック経由で連絡した。だが学生は話をしたがらず、会話はすぐに終わった。
それから数カ月後、大みそかの夜にフランクフルトで起きたとされる集団性的暴行事件をめぐってスキャンダルが発覚した。
フランクフルト市内のレストランで、数十人の難民が複数の女性を襲ったという事件は、実はでっちあげだったことが判明。その直後、バルダウフらはドレスデンの学生から「話をしたい」と連絡を受けた。
やりとりは前回よりもはるかに長く続き、そのうちに学生は極右のプロパガンダにだまされていたと気づいた。
バルダウフは言う。「異なる意見を持つ誰かと話をするだけでいい、そんな場合もある」
原文はこちら（英語）。
（執筆：Jeremy Kahn記者、Stefan Nicola記者、Elliott Snyder記者、Birgit Jennen記者、Rainer Buergin記者、Sarah Frier記者、翻訳：服部真琴、写真：nemke/iStock）
©2017 Bloomberg Businessweek
This article was produced in conjuction with IBM.
フェイスブック、ヘイトスピーチとの戦い
