[追記: 2021年1月12日19時40分]
AWSのメール文章とParler内でどのような投稿があったのかが米国で報道されているため、その点文末に追記しました。
[追記終了]

トランプ支持者を始めとして多くの保守系のユーザーが利用していたParlerというSNSがGoogle, Appleのアプリストアから配信を停止させられ、さらにはAmazonからもウェブホスティングサービスの利用を停止させられたため、2020年1月10日現在、一切サービスを利用することはできなくなってしまいました。

相当なダメージを受けたParlerは、CEOが事業を終了する可能性にも言及しています。

6日に起きた国会議事堂での暴動に端を発して、TwitterやFacebookはトランプ大統領が引き続き違法な暴力を煽る危険性が高いとしてそのアカウントを永久停止しましたが、本件もそれに連なる同じ動きのように見られている節があります。当然ながら発端は同じですが、Parlerのサービス停止の根底にある問題は全く異なります。巷間「私企業の判断で自由な言論が失われていく」という言説が見られますが、もっとビジネスライク、あるいは法務的な話なのです。

結論から述べると、ParlerはSNSやUGCを取り扱う事業者にとって必要最低限のコンテンツモデレーション（コンテンツの品質管理）体制すら整えられておらず、違法なコンテンツが跋扈するのを止められない危険性が高かったために、各取引先から取引停止という救済手段を行使されました。

コンテンツモデレーションとは

コンテンツモデレーションとは、平たく言えば、自社のサービス上で表示されるコンテンツ（テキスト、画像、動画等）が、自社のガイドラインに則しているかを確認し、違反コンテンツを取り下げる業務をいいます。特にTwitter/Youtube/Instagram/TikTokなどUGC（User Generated Contents-一般ユーザーが生成・配信するコンテンツ）をメインコンテンツとして扱う巨大サービスが誕生してからは、当たり前のように社内体制が整えられている業務です。

これはいわゆる「検閲」ではないかという声も小さいながら存在します。しかし、私企業が提供する表現空間において、当該企業が用意したガイドラインに従ってサービスを利用するのは当然のことであり（契約関係）、またインターネット空間だからといって「表現の自由」を盾に違法な行為を行う自由もユーザには存在しません（これは法律との関係）。もちろん、コンテンツプロバイダとしての事業者らとの関係でも、表現の自由を守りながら違法なコンテンツを排除できるよう、各国で法律が整備されています（米国のCDA230条、EUの電子商取引令、日本のプロバイダ責任制限法等）。

たとえば、人権侵害表現や誹謗中傷、殺害予告、児童ポルノなどは、プロバイダが放置していては実害の生じうる、あるいはそれ単体で違法危険なコンテンツです。こういったコンテンツを積極的に排除し、言論空間が自由で闊達な、何より信頼できて安全なものにしていくことが事業者には求められています（昨今このような観点を”Trust&Safety”と呼びます）。

事業者のモデレーション体制

では各社どのようなモデレーション体制を構築しているのか。いくつか実例を出してみようと思います。

直近でコンテンツモデレーションに関する最も詳細な研究はNew York Universityの”Who Moderates the Social Media Giants?（誰がソーシャルメディアの巨人を管理するのか）”と題された論考です。詳細は省きますが、この論考ではTech Giantによるコンテンツモデレーションはメンタルヘルスへの危害など様々な問題を抱えているという重要な指摘をしています（が、本稿の趣旨からは外れるのでこの点は別稿で言及したいと思います）。

この研究によると、当然ながら大規模なAIによるコンテンツモデレーションは実施しながら、以下のとおり人間によるチェックも大規模に行われています。
・Facebook（Instagramを含む）：15,000人
・Youtube（他のGoogle Productも含む）：10,000人
・Twitter：1,500人

また、イェール大学のKate Klonickによる”The New Governors: The People, Rules, and Processes Governing Online Speech（新たな統治者：オンラインスピーチを統治する人々、ルール、プロセス）”でそのコンテンツモデレーションの詳細なロジックとプロセスが明らかになっており、もはや言論を統治する統治機構の一翼を担うと指摘されています。それほどに各社様々な工夫をしてこの言論空間を安心安全なものに維持しようとしているのです。

「言論検閲なし」の実際

Parlerは、前回の大統領選挙以降、「修正第1条（表現の自由）を最も擁護するSNS」として新たに出現し、TwitterやFacebookなどコンテンツモデレーションを行う企業を嫌った保守系のユーザーから温かく迎え入れられました。

しかし、「一切言論を検閲しない」と謳うParlerの実態は、いかなる違法コンテンツも放置し続けざるを得ないほどに体制が整っていないとプラットフォーマーに判断されるものでした。

たとえば、ナチスドイツの象徴である鉤十字を掲げたプロフィール画像や、ホロコーストや人種差別を肯定する投稿、特定の人物の殺害予告など、もはやテロの予告ではないかと思われるような投稿が跋扈していました。（たとえばマイク・ペンス副大統領への殺害予告を促すような投稿など、一部こちらの記事で見ることができます。）

6日、建国後アメリカを支え続けた「民主主義」の象徴である議事堂で暴動が起き、ここ数日のアメリカは不穏な空気が蔓延する異常事態でした。そのような中で、もちろんトランプ大統領のアカウントを凍結するというTech Giantの意思決定には複雑な力学が様々働いたと予想するに難くありません。しかし、Parlerについては、もっと低次元のアラートが業界中に鳴ったのではないでしょうか。（逆に言えば、一定のコンテンツモデレーションを行い、明らかな違法コンテンツを除外しつつ、政治的な発言には一切介入をしないというSNSを作れば、おそらく分断されたアメリカの一方を取り込むことのできるサービスに発展していくのではないかとも感じます。）

[追記: 2021年1月12日19時40分]
AWSがParlerに送ったメール文面がBuzzfeedによって報道されているため、日本語訳といくつかの添付画像を掲載しておきます（Buzzfeed報道）。
（文脈としては、どうやらAWSからの警告に対して、Parlerが「ボランティアを募ってコンテンツモデレーションをしてもらう」という対応を提案したようで、それに対するAWSからの返信文になっています。

“親愛なるエイミー（筆者注：ParlerのChief Policy Officer）

本日は早々にお話しいただきありがとうございました。
昨日と今朝、電話で話し合ったように、私たちは利用規約の違反が繰り返されていることに、依然として悩まされています。過去数週間の間に、明らかに暴力を奨励したり煽動したりする投稿の例を98件報告しています。その中からいくつかをご紹介しますので画像をご参照ください。

最近、あなたのWebサイトでこのような暴力的なコンテンツが着実に増えています。ParlerがAWSの利用規約を遵守するための有効なプロセスを持っていないことは明らかです。また、Parlerはまだコンテンツのモデレーションについての立場を決めようとしているようです。あなたは、弊社や他の人から連絡があった場合には、いくつかの暴力的なコンテンツを削除していますが、常に緊急性を持って削除しているわけではありません。あなたのCEOは最近、"この件に関して責任を感じていないし、プラットフォームも責任を負うべきではない "と公言しています。今朝、あなたは暴力的なコンテンツをより積極的に規制する計画を持っているが、ボランティアを使って手動で規制する予定だと発表しました。私たちの見解では、危険なコンテンツを迅速に特定して削除するためにボランティアを使用するこの初期的な計画は、暴力的な投稿が急速に増加していることを考えると、うまくいかないでしょう。このことは、私たちがお送りしたコンテンツの多くをあなたがまだ削除していないという事実によって、さらに証明されています。先週のワシントンD.C.で起きた不幸な出来事を考えると、この種のコンテンツがさらに暴力を煽動する深刻なリスクがあります。

AWSは、政治的な領域を超えてお客様に技術とサービスを提供していますが、どのようなコンテンツを許可するかを自分で決定するParlerの権利を尊重しています。しかし、他者への暴力を助長したり扇動したりするコンテンツを効果的に特定し、削除することができないお客様にサービスを提供することはできません。Parlerが当社の利用規約を遵守できず、公共の安全に非常に現実的なリスクをもたらすため、当社は1月10日（日）午後11時59分（PST）よりParlerのアカウントを停止する予定です。弊社では、お客様のデータがすべて保存されていることを確認し、お客様のサーバーへの移行を可能な限りお手伝いさせていただきます。

- AWS Trust&Safety Team”

いくつかの添付画像（全てBuzzfeed報道記事からの引用です）

”戦争のようだな！爆発物の訓練を受けた人がAWSのデータセンターを訪問するのは気の毒だよ”

"1月X日（黒塗り）、リベラルな指導者、リベラルな活動家、BLMの指導者と支持者、リベラルメディアのアンカーと特派員、ANTIFAのメンバーを組織的に暗殺し始める必要があります。すでにニュースになるようなイベントを計画しています。"

”我々の国、大統領、憲法に仇なし、仕事と人生、子どもたちの生活、文化、自由、権利、歴史、イエスを破壊するリベラルとゴミ左翼の民主党員、ANTIFA、BLM、民主党議員ども。お前らの頭に銃弾をぶっ放してやるよ…（以下略）"

[追記終了]