フェイスブックの何が問題か、米国議会の公聴会で言われたのは、「子どもたちの安全やAIの効果について一般の人々を誤った方向に誘導してきたこと、そして、分断を広げる過激なメッセージを拡散する機能」ということでした。 "FB repeatedly misled public about the safety of children, efficacy of its AI systems, & its role in spreading divisive extreme msgs." 告発の対象は、フェイスブック傘下のインスタグラムも含まれています。 告発したのはフェイスブックの元プロダクト・マネージャーで、議会の公聴会の前に、社内文書をウォールストリート・ジャーナルにリークしています。 もう少し具体的な内容を見ると、 ・「子どもたちの安全」というのは、主にメンタル・ヘルスのこと、特に女子の心理的悪影響のことが挙げられています。 ・「分断を広げる」というのは、「民族浄化を煽るコンテンツを拡散している」ということが挙げられています。これは、多くの事例があることで、ロヒンギャへの迫害も、アゼルバイジャンとアルメニアの戦争も、フェイスブックに煽られた人々が暴力に走ったといわざるをえない例はたくさんあります。
>“User-generated content is something companies have less control over. But they have 100% control over their algorithms,” Haugen said. “Facebook should not get a free pass on choices it makes to prioritize growth, virality and reactiveness over public safety.”
私が「ガバナンスが問題」と昨日コメントしたのは、こういうこともあります。
これは、1990年代にタバコ会社を訴えた内部告発者と同じ構図で、だからこそアメリカでは注目されています。ラッセル・クロウが科学者で内部告発者を演じた1999年の「The Insider」という映画をご覧になった方はおわかりかと思います。その後、タバコ会社の鉄壁の政治力が崩れ、規制が始まりました。今回は、それになぞらえられています。
"FB repeatedly misled public about the safety of children, efficacy of its AI systems, & its role in spreading divisive extreme msgs."
告発の対象は、フェイスブック傘下のインスタグラムも含まれています。
告発したのはフェイスブックの元プロダクト・マネージャーで、議会の公聴会の前に、社内文書をウォールストリート・ジャーナルにリークしています。
もう少し具体的な内容を見ると、
・「子どもたちの安全」というのは、主にメンタル・ヘルスのこと、特に女子の心理的悪影響のことが挙げられています。
・「分断を広げる」というのは、「民族浄化を煽るコンテンツを拡散している」ということが挙げられています。これは、多くの事例があることで、ロヒンギャへの迫害も、アゼルバイジャンとアルメニアの戦争も、フェイスブックに煽られた人々が暴力に走ったといわざるをえない例はたくさんあります。
問題は、フェイスブックで拡散されたコンテンツによって引き起こされた事態に、フェイスブックという企業の責任があるか、ということでしょう。
フェイスブックはあくまでプラットフォームで、コンテンツを拡散したのはあくまでユーザー、というほど単純な話でもありません。
フェイスブックに表示される情報は、フェイスブックが設定したアルゴリズムによって変化します。告発者は、フェイスブック社の設定は、収益を優先して公益を害するものであったと主張しています。
米国は、ビッグマックを食べ過ぎて肥満になったらマクドナルドを提訴する人たちがいる国です。フェイスブックへの集団訴訟は避けられないでしょう。
https://www.theguardian.com/technology/2021/oct/04/facebook-tearing-our-societies-apart-key-excerpts-from-a-whistleblower-frances-haugen
日本では政治の分断に利用されたケースなどは少ななく、社会問題化している、ないしそのように捉えられているケースは少ないですが、情報依存傾向の強まる私たちや、私たちの子供たちが気をつけないといけない落とし穴です。
私たちが見ているタイムラインやニュースフィードはアルゴリズムによってコントロールされていて(NewsPicksも例外ではない)それによって私たちの意識や意見の形成がどのように影響を受けるのか、にもっと意識的になる必要がある、という警鐘です。
内部告発者を皆で全力で守る例を見せることが大事だと思う。
テレビ放送で問題になったサブリミナル問題のようにルールや規制する議論があって然るべきです。
経営陣にどういう意図があるかはわかりませんが、やろうと思えばなんでもできてしまうのは間違いありません
【追記】
こちらに詳しい内容が書いてありました
https://courrier.jp/news/archives/263187/
かつては、たばこ会社が喫煙習慣が肺がんリスクを高めることをわかっていながら隠蔽していました。
また、エクソンモービルも社内の科学者が化石燃料をもくもく燃やすことが地球の温暖化を招くことを経営陣に警告していながら黙殺していたし、ロビイストを雇ってまで地球温暖化はウソであるとプロを雇って喧伝していました。挙句の果てにそんな人たちがトランプ政権で大統領顧問に就任する始末。
このあたりはデンマークのジャーナリストが2020年に制作した映像「The campaign against the climate」を見るとよくわかりますが、背筋が寒くなってきます。
ESGが盛り上がる中で世界中でガバナンスが益々注目されるわけですが、どんなに優れたガバナンスの仕組みをつくったところで、それを導入するも実践するもしょせんは経営トップ次第。
議決権を経営トップに極端に偏らせた株式を発行したり、ましてや上場することを認めている以上、そんなものは本気のガバナンスではありません。
歴史が物語っています。
具体例を挙げていただきたいところです。
>“User-generated content is something companies have less control over. But they have 100% control over their algorithms,” Haugen said. “Facebook should not get a free pass on choices it makes to prioritize growth, virality and reactiveness over public safety.”
Facebook whistleblower Frances Haugen testifies before the Senate
https://techcrunch.com/2021/10/05/facebook-whistleblower-frances-haugen-testifies-before-the-senate/
プラットフォームの成長を追い求めるだけだけの仕組みではなく、組織全体として利用者の安全を最優先することが必要で、利用者が投稿するコンテンツを管理することは難しいにせよ、アルゴリズムを積極的に見直していくことが必要になるのではないかと思います。
欧州を中心にデータ保護やコンテンツ規制案などプラットフォーム企業へのアカウンタビリティが高まる中で、米国が具体的にどう進んでいくかは関心のあるテーマです。