2年で11万件、オールナイトでツイート

ジェニファー・カールのツイッターのプロフィール写真には、真紅の花びらが舞っている。真っ赤な髪の彼女は10代後半だろうか。
だが、このツイートの主はほんとうに「可愛いティーンの女の子」、なのだろうか？一連のツイートを見ると、たちまち疑念がわいてくる。
ツイッターを始めたのは2年前だが、ツイート数はすでに11万件を超える。1日150件以上もツイートしている計算だ。1時間に100件以上ツイートするときもある。彼女は一睡もしないらしく、ほぼオールナイトでツイートしている。
ジェニファーのツイートには、いくつかテーマがある。#シリアを応援し、#シオニストを挑発し、ときどき大文字で単語を強調する。
あなたがシオニストでナチでもあったらだったらどうする？ ユダヤ人は利用されてきたの。悪いわね、兄弟姉妹。腹黒い高利貸しのために踊らされてきただけ。#シリアの砂漠にいる首切りサウジアラビア人と、#パレスチナにいる#イスラエルを、核とクレイジーな首相がめちゃくちゃにする。連中のゲームに「選民」なんていない。

ツイッターアカウントの15%はボット

このようなアカウントは、中に生身の人間がいる訳ではない。ジェニファーはティーンの女の子ではなく、架空の人格をもった自動ツイートをするロボットなのだ。
bot（ボット、Robotの略からこう呼ばれている）と呼ばれるよる自動ツイートであることを示す証拠がこれらのツイートにはいくつもある。ありえないほど大量のつぶやき、毎回特定の単語が必ず含まれていること、他人のコンテンツを自分のものツイートとしてリポストしていること──。
調査によると、ツイッターアカウントの15％はボットだ。だが、すべてのボットが悪いわけではない。インターネットをより美しく、より便利で、より優しい場所にするボットもある。問題は、ボットアカウントが存在することではない。それが武器として使われる可能性があることだ。
「2018年の米中間選挙で、ボットは投票妨害や、活動家への嫌がらせ、ジャーナリストへの攻撃などに使われた」と、未来研究所（IFTF）のサム・ウーリー所長は言う。「だが、フェイスブックとツイッターは、こうした問題に対策を講じることに消極的な仕組みになっている」
ソーシャルメディアの問題点は、常にそのビジネスモデルに帰着する。単純な話、これらのプラットフォームには、悪質な言動を追放するインセンティブがないのだ。
そのことを少し詳しく見てみよう。

ボット退治そのものは難しくない

ソーシャルメディア企業は、やろうと思えば、素早く対策を講じるリソースを持っている。
ただしそのためには、ビジネス上の目標と一致する必要がある。「ビジネスモデルがプロダクトに関する決定を下す」と、虚偽情報の研究者でモジラ財団のフェロー、レネー・ディレスタは語る。「PR上マイナスになるとみなされるまで、（ツイッターが）ボット問題に取り組む気配はなかった」
ツイッターのジャック・ドーシーCEOが、ようやく問題を認めたのは昨年3月のこと。それは従来のツイッターの姿勢からの大きな転換だった。
2016年の米大統領選で、ソーシャルメディアが選挙干渉や嫌がらせ、ボット、そして詐欺まがいのスキャンダルの舞台となったのを機に、ドーシーは「プラットフォームの健全性」を最優先課題に据えた。
そして、「ツイッターの健全性を測定する方法」について専門家の提案を募集するとともに、「私たちのサービスが悪用されていることを残念に思う」とツイートした。
ツイッターの悪用、嫌がらせ、炎上集団、ボットと人間による世論操作、計画的な虚偽情報の流布、分断を煽るエコーチェンバー現象が起きている。私たちのサービスが悪用されていることや、私たちの対応スピードが追いついていないことを残念に思う。
なぜか。私たちは即時的で、公開された、グローバルな発信や会話を愛している。それがツイッターであり、ツイッターの存在理由だ。だが私たちは、現実の世界に与えるネガティブな影響を予想あるいは理解しきれていなかった。今それを認識して、総合的でフェアな解決策を見つけるつもりだ。
このとき以来、ツイッターはボット追放のペースを2倍以上に加速してきた。昨年5月と6月には、偽アカウントまたはその疑いがあるアカウント7000万を停止した。やろうと思えばやれるのに、なぜこんなに時間がかかったのか。

ビジネスモデルとの複雑な関係

インターネットで、重要な指標はたった1つしかない。それは月間アクティブユーザー数（MAU）だ。
オンラインゲームやソーシャルネットワークやモバイルアプリの大多数にとって、MAUの最大化が、ほぼすべてのプロダクト判断の基準になる。
MAUは、マーク・ザッカーバーグなどの経営者が4半期決算の電話会見で最初に言及する数字だ。起業家がベンチャーキャピタルへのプレゼンで最初に強調する数字でもある。
これこそが、ジェニファー・カールのようなボットが蔓延している最大の理由かもしれない。そのカギは広告にある。
ソーシャルメディアなどインターネット上のプラットフォームの最大の収入源は広告だ。2018年、デジタル広告に費やされた金額は2770億ドル。その3分の2近くはフェイスブックとグーグルが占める。
広告は、MAUが多いプラットフォームに出すほど、より多くの人の目に触れる。つまり、その広告枠は高く売れる。だからプラットフォームを運営する企業としては、たとえユーザーがボットであろうと、MAUが多いほどいい。
「株主に示される総合成長報告書では、ボットもユーザー総数にカウントされる」とウーリーは指摘する。「つまりツイッターがボットの退治を始めるということは、ユーザー数が最大20％減るということだ。それは株価にダメージを与える」

ボットに見てもらうための広告費ではない

サイバーセキュリティー企業ニューナリッジ社の虚偽情報研究者であるクリス・シャファーは、MAUはコンテンツアルゴリズムの働きにも影響を与えると指摘する。「（ソーシャルメディアには）ボットアカウントよりも、はるかに大きな問題がある」とシャファーは語る。
「根本的な問題は、クリック報酬型の広告モデルだ。ユーザーのエンゲージメントを可視化するような、注目度をベースとした仕組みを作らなければ、私たちがネット上でも目にするものは大きく変わってしまうだろう」
だが最近は、倫理的な問題以外にも、ソーシャルメディア企業にプラットフォームの「大掃除」を強いる要因は生まれつつある。広告主が、自動アカウント問題に神経質になり始めたのだ。当然だろう。広告主は、広告がより多くの人の目にとまるために大金を払っているのであって、ボットに見てもらうためではないのだから。

もはや放置は許されない

昨年のドーシーのツイートは、ユーザー向けの決意表明であるだけでなく、投資家への警告でもあった。フェイクアカウントやボットアカウントを削除すれば、ツイッターの収益に影響を与えることになるからだ。
とはいえ、ボットアカウントを全面的に禁止すれば、そのプラス面も台無しにしかねない。世界中のツイートから俳句を自動的に集めてくるアカウントなどは、インターネットを集合的独創性の場にするユニークな試みの1つだ。
だが、悪質なボットを放置することはもはや許されない。プラットフォーム運営企業は、自動化が許される領域と、そうでない領域について明確な線引きをする必要がある。スパムメールと同じように、ボットツイートの突きつけるリスクを管理するときがきている。
原文はこちら。（英語）
（執筆：Simone Stolzoff記者、翻訳：藤原朝子、写真：bombuscreative/iStock）
© 2019 Quartz Media, Inc.
This article was translated and edited by NewsPicks in conjunction with HP.