今日のオリジナル番組


詳細を確認
タブーに切り込め!ここがおかしい「日本の保険」
本日配信
403Picks
Pick に失敗しました

人気 Picker
ここで特に問題になっているのは「内部調査で悪いことがわかっていたのに、それを隠して外部には問題ないと口を拭っていたのが悪質である」という点で、彼女はそこを暴露しています。

私が「ガバナンスが問題」と昨日コメントしたのは、こういうこともあります。

これは、1990年代にタバコ会社を訴えた内部告発者と同じ構図で、だからこそアメリカでは注目されています。ラッセル・クロウが科学者で内部告発者を演じた1999年の「The Insider」という映画をご覧になった方はおわかりかと思います。その後、タバコ会社の鉄壁の政治力が崩れ、規制が始まりました。今回は、それになぞらえられています。
フェイスブックの何が問題か、米国議会の公聴会で言われたのは、「子どもたちの安全やAIの効果について一般の人々を誤った方向に誘導してきたこと、そして、分断を広げる過激なメッセージを拡散する機能」ということでした。
"FB repeatedly misled public about the safety of children, efficacy of its AI systems, & its role in spreading divisive extreme msgs."
 告発の対象は、フェイスブック傘下のインスタグラムも含まれています。
 告発したのはフェイスブックの元プロダクト・マネージャーで、議会の公聴会の前に、社内文書をウォールストリート・ジャーナルにリークしています。
 もう少し具体的な内容を見ると、
・「子どもたちの安全」というのは、主にメンタル・ヘルスのこと、特に女子の心理的悪影響のことが挙げられています。
・「分断を広げる」というのは、「民族浄化を煽るコンテンツを拡散している」ということが挙げられています。これは、多くの事例があることで、ロヒンギャへの迫害も、アゼルバイジャンとアルメニアの戦争も、フェイスブックに煽られた人々が暴力に走ったといわざるをえない例はたくさんあります。

問題は、フェイスブックで拡散されたコンテンツによって引き起こされた事態に、フェイスブックという企業の責任があるか、ということでしょう。
 フェイスブックはあくまでプラットフォームで、コンテンツを拡散したのはあくまでユーザー、というほど単純な話でもありません。
 フェイスブックに表示される情報は、フェイスブックが設定したアルゴリズムによって変化します。告発者は、フェイスブック社の設定は、収益を優先して公益を害するものであったと主張しています。
 米国は、ビッグマックを食べ過ぎて肥満になったらマクドナルドを提訴する人たちがいる国です。フェイスブックへの集団訴訟は避けられないでしょう。

https://www.theguardian.com/technology/2021/oct/04/facebook-tearing-our-societies-apart-key-excerpts-from-a-whistleblower-frances-haugen
このニュースのコンテクストがピンとこなくて、Netflix購読している人は、Social Dilemmaを見ることをお勧めします。オンラインビジネスの競争がユーザーの注目時間の取り合いになっていて、かつそのためには自社サービスにユーザーを中毒化させることを良しとし、またそのためには過激な思想や有害な強迫観念なども良しとしてきた(むしろ助長してきた)ことがわかります。
日本では政治の分断に利用されたケースなどは少ななく、社会問題化している、ないしそのように捉えられているケースは少ないですが、情報依存傾向の強まる私たちや、私たちの子供たちが気をつけないといけない落とし穴です。
私たちが見ているタイムラインやニュースフィードはアルゴリズムによってコントロールされていて(NewsPicksも例外ではない)それによって私たちの意識や意見の形成がどのように影響を受けるのか、にもっと意識的になる必要がある、という警鐘です。
こういう社会や次の世代への影響を倫理的に考えて、武器になるデータを持っている人がGAAFAだろうが政府だろうが立ち向かえる雰囲気が強くなってくると、とても良いと思う。
内部告発者を皆で全力で守る例を見せることが大事だと思う。
FBにしろ、インスタにしろ、ニュースフィードに流れるコンテンツの表示順やディスカバーにフィルターやアルゴリズムの影響を強く感じます。中毒性というのはそのことを言ってるのかな?利用者側でできることはあまりないと思います。受け入れるか、使わないか。
テレビ放送で問題になったサブリミナル問題のようにルールや規制する議論があって然るべきです。
経営陣にどういう意図があるかはわかりませんが、やろうと思えばなんでもできてしまうのは間違いありません
【追記】
こちらに詳しい内容が書いてありました
https://courrier.jp/news/archives/263187/
Facebookの「悪影響を与えることがわかっていながら意図的に隠蔽した」ことが問題となっているわけです。

かつては、たばこ会社が喫煙習慣が肺がんリスクを高めることをわかっていながら隠蔽していました。

また、エクソンモービルも社内の科学者が化石燃料をもくもく燃やすことが地球の温暖化を招くことを経営陣に警告していながら黙殺していたし、ロビイストを雇ってまで地球温暖化はウソであるとプロを雇って喧伝していました。挙句の果てにそんな人たちがトランプ政権で大統領顧問に就任する始末。

このあたりはデンマークのジャーナリストが2020年に制作した映像「The campaign against the climate」を見るとよくわかりますが、背筋が寒くなってきます。

ESGが盛り上がる中で世界中でガバナンスが益々注目されるわけですが、どんなに優れたガバナンスの仕組みをつくったところで、それを導入するも実践するもしょせんは経営トップ次第。

議決権を経営トップに極端に偏らせた株式を発行したり、ましてや上場することを認めている以上、そんなものは本気のガバナンスではありません。

歴史が物語っています。
う〜ん、日本のFacebookを見ている限り、誤った方向に誘導したり子どもたちに害を及ぼすようには感じられないのですが…。

具体例を挙げていただきたいところです。
Techcrunchで紹介されていたこの内容が、ソーシャルメディア等のコンテンツを取り扱う企業に求められる大きな課題ではないかと思います。

>“User-generated content is something companies have less control over. But they have 100% control over their algorithms,” Haugen said. “Facebook should not get a free pass on choices it makes to prioritize growth, virality and reactiveness over public safety.”

Facebook whistleblower Frances Haugen testifies before the Senate
https://techcrunch.com/2021/10/05/facebook-whistleblower-frances-haugen-testifies-before-the-senate/

プラットフォームの成長を追い求めるだけだけの仕組みではなく、組織全体として利用者の安全を最優先することが必要で、利用者が投稿するコンテンツを管理することは難しいにせよ、アルゴリズムを積極的に見直していくことが必要になるのではないかと思います。

欧州を中心にデータ保護やコンテンツ規制案などプラットフォーム企業へのアカウンタビリティが高まる中で、米国が具体的にどう進んでいくかは関心のあるテーマです。
5日(火)のフランス国営テレビニュースでは、この告発者は、「フェイスブック社は中毒を助長しており、もしフェイスブックがアルゴリズムを変えれば、人々がサイトにアクセスする時間を減らすことができる」という旨のことを言っているとのことだ。ただ、そのニュースでは、もしフェイスブックなどの米国企業を規制すれば、中国企業が同じことをするだけなので、アメリカ当局も取り締まらないだろう…ということであった。
上院商業委員会の小委員会に元フェイスブックのフランシス・ハウゲン氏が出席して証言したそう。彼女は誤情報チームのプロダクトマネジャーだったそう。