アップル、児童虐待の形跡調べる写真スキャン機能の導入を延期
コメント
選択しているユーザー
注目のコメント
アップル社のクラウドを利用したユーザーの写真をアップロード時に自動的にスキャンして、「典型的類型の画像」は米捜査当局（全米行方不明・被搾取児童センター）に自動的に送られ、当局が人による確認を行ったうえ、児童虐待の早期発見につなげる取り組みが報道されていました。「典型的類型の画像」は、当局がアップルに提供したものを用い、アップル社ではAI判別するとのことです（米国内の利用者が対象）。
記事にあるプライバシー問題（悪意をもつ非権限者によるプライバシー侵害の恐れ）と、以下への対処が必要と思われます。
1 利用規約上の課題
当局に提供するためには、クラウドの利用規約（プライバシー・ポリシー）に定める必要があり、既存ユーザーに対しこの変更同意を得るためにはある程度の期間が必要になるでしょう。同意を得れば最終的に実施できると思われますが、当局以外に情報が流出した場合は、アップル社の責任が問われます。
2 技術的課題
児童虐待・誘拐などが背景にあり、撮影された典型的な画像（当局提供）との類似性を図るとのことですが、技術が不十分だと、家庭で普通に撮影された子供の画像が膨大に犯罪捜査当局に送られたり、逆に「問題画像」が検出されなくなります。これへの対応（技術の向上）に時間が必要になっているのでしょう。
アップル社には犯罪性の判断権限は当然にありませんが、報道の範囲では同社は犯罪性判断の関与に踏み込んでもいません。ユーザーに対し「当局のデータにマッチングした画像が当局に送られる」ことの規約を定めておき、同意を得たうえで送るのであれば民事契約上の範囲であり、問題は発生しないと思われます。これをユーザー側が拒否したいなら「アップル社と契約しない」ことで対処できるはずです。
「プライバシー問題からの強い反対」には、記事にある対処と上記1で解決できると思われます。今回の延期表明は、想定される上記2つの実施に時間が必要と考えたための延期と思われます。当局が同社に要望し、アップル社も社会的責任を果たすためにと、考えが一致しているために進められているのでしょう。
「アップル、性的に露骨な子供の写真を検出し通報－年内に新機能導入」（Bloomberg 2021年8月06日）
https://newspicks.com/news/6078490?ref=user_1310166たとえば、野田市の小4女児虐待死事件。
https://newspicks.com/news/3636768
「勇気を出して助けを求めた。でも、周りの大人は誰も助けてくれなかった」という絶望のど真ん中で小4女児は命を落としました。
ところがです。加害者である父親は、虐待時に女児の様子をスマホで撮影していました。
Appleの取組がこの時もしあったら彼女は、
●勇気を出して助けを求める必要もなく
●彼女を見捨てた教育委員会に絶望することもなく
●命を落とすこともなかった
……のかもしれません。
子どもを守る社会の仕組みが機能しているならAppleの取組はそもそも不要。
ですが、私たちの社会の仕組みは残念ながら子どもを守りきれていないのが現実。
テクノロジーに頼るしか無いのは私たち自身の力不足ゆえではないでしょうか。
