AIが言論の自由やジャーナリストの身の安全を護る、グーグルの仕組み

2019/4/16

DDoS攻撃をリアルタイムで視覚化

先週のこのコラムで、グーグルがジャーナリズムでAIなどの先端テクノロジーをどう使えるかをメディア組織とも協力して開発していることを伝えたが、もうひとつこれに関して付け加えておきたい。グーグルの「ジグソー（Jigsaw）」というイニシアティブだ。
ジグソーもジャーナリズムに関するテクノロジー開発だが、特に言論の自由やジャーナリストや活動家の身の安全を護（まも）ることを目的としている。そして、ここでも興味深いAIの利用方法が見られるのだ。
新聞社や雑誌社などのメディア組織に対しては、悪意を持った攻撃がかけられることが少なくない。例えばフィリピンやトルコなどでは、政府に批判的なジャーナリストが拘束されたり攻撃されたりする例が絶えない。
オンラインによる攻撃も多い。典型的なのがDDoS攻撃で、多数のコンピューターを不正に乗っ取った上で、それらを利用して対象のサイトに大量のデータを一斉に送り込んでサーバーをダウンさせてしまうというやり方だ。
メディア組織は攻撃を受けるとサイトを閉鎖せざるを得なくなる。これでうるさいジャーナリストを黙らせようというわけだ。
よく使われる攻撃の手だが、これは現実の世界での出来事と関連していて、誰かや何かを妨害しようとして行われることがほとんどだ。ジグソーは「プロジェクト・シールド」という名の下、グーグルのインフラを利用してメディア組織のサイトへのDDoS攻撃を防ぐテクノロジーを無料で提供している。
ジグソーではまた、そのDDoS攻撃をリアルタイムで視覚化して「デジタル・アタック・マップ」を作っている。
攻撃の対象も当然メディア組織のサイトだけに限らない。攻撃がどこからどこへ向かって起こっているのかが大きなパターンとして見える地図だ。そしてAIがこれを学習して、攻撃に事前に備えられるようにしているという。

コメント欄の「毒性度」を計測する

また、ジャーナリスト個人への嫌がらせも続く。ひどい場合には個人の住まいを探し当ててSNSで公開したり、フェイクのポルノ写真やビデオを作ってやはりインターネットに掲載したりする手口まで見られる。
記事に対するコメント欄での悪質なメッセージは、その中でもよく知られるものだろう。実名を出さなくていいことを武器に、これでもかというほどの嫌がらせのコメントを寄せるというのは日本でもよく見られる。
メディア組織によっては、意味ある議論をするためにコメント欄を設けていたのに、悪質なメッセージがあふれて日常的に管理することが難しくなり、コメント欄自体を取りやめるところも少なくない。
ジグソーはこれに対処するために、AIの助けを借りてコメント欄の管理をやりやすくする方法を編み出した。「パースペクティブAI」という機械学習のテクノロジーで、オンライン上のハラスメントを見つけ出す仕組みだ。
コメント欄でこれを利用すれば、AIがコメントの「毒性度」を計測し、あとは人間のモデレーターが判断する。これまで一つ一つのコメントを読んで検討し、判断を下していたものが、グンと効率化されるわけだ。
AIによって人間が代替されるとか、人間の仕事が取られてしまうといった危惧があふれているが、これはAIが悪い人間をどんどんやっつけてほしいという分野である。AIの今後の健闘を応援したい。
＊本連載は毎週火曜日に掲載予定です。
（文：瀧口範子、写真：12963734/iStock）