全米で導入の顔認識システム、失業手当申請を次々拒否。数か月受給できない人も

コメント

選択しているユーザー

• 山崎 俊彦

  東京大学 大学院情報理工学系研究科電子情報学専攻　教授

  ・2021年06月20日

  失業手当申請で困っていらっしゃる皆さんの問題が直ちに解決されることを願っています。
  
  
  「AIによる顔認識技術は、一般的に女性や有色人種を見分ける能力が白人男性に比べると劣ると言われています。」
  についてはちょっと言わせてください。
  
  ・AIの技術限界というよりも、学習データの問題。すなわち、使い方の問題。
  ・GAFAMなどはこのような問題を指摘された後、直ちにほとんど差が気にならないほどに精度を改善。しかし、いつまでも「AIは～～～」と過去の問題ばかりが報道され、精度改善したことやその努力については報道されず。
  ・この記事で話題になっている企業さんの技術力については存じ上げません。
  ・非常に重要な案件なので拒否された事例については再度人力で確認するなどすればいいはず。

注目のコメント

• 栗原 宏平

  Privacy By Design Lab Founder

  ・2021年06月20日

  ID.meに限らずUberのドライバーでも顔認識システムによって適切に本人確認できなかったケースも出てきています。欧州のAI法案は、事前にAIで適切に判断できない場合、どういった負のインパクト（導入した際のリスク）が利用者に起こり得るかを想定するように求めていく方向なので、顔認識技術も同様に実装前のインパクト評価の実施が求められていくかと思います。
  
  Uber drivers claim they were fired after company's identification software failed to recognise their faces
  https://www.itv.com/news/2021-03-18/uber-drivers-claim-they-were-fired-after-companys-identification-software-failed-to-recognise-their-faces
• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2021年06月21日

  140万人で99.9%ですと、1400人が認識できない計算です。
  一定比率で認識できないのは最初から分かっているので、認識できない場合の手続きをきちんと決めておけばよかっただけの話に思えます。
  
  圧倒的な業務効率化と不正防止につながるのですから、認識拒否問題を理由に顔認識を止めよというのは筋違いな印象も受けます。プライバシーは別の問題として議論すべきで、問題を一緒にしてはいけないと思います。