Picks
2164フォロー
2469フォロワー
顔認識技術の問題は“識別”と“認証”だけではない:写真クラスタリング、人種分析、リアルタイム追跡などなど……
P2Pとかその辺のお話R |
栗原 宏平Privacy By Design Lab Founder
顔認識システムの誤認によって起こりうる負の影響はいくつかあり、特にマイノリティと呼ばれる人たちに大きな影響が及ぶ可能性は懸念されています。最近ではUberが採用した顔認識システムによって、Uberに登録しているドライバーの顔が認証されずにドライバーとして仕事ができなくなったケースが問題になっています。 これはマイクロソフトが提供しているFACE API技術によってドライバーの顔を認識(Recognition)し、ドライバーであることを認証(verification)するものでしたが、技術的に何が問題であったかどうかの分析が現在争点になっています。 Uber faces legal action over ‘racially discriminatory’ facial recognition ID checks https://techcrunch.com/2021/10/05/uber-faces-legal-action-over-racially-discriminatory-facial-recognition-id-checks/?fbclid=IwAR3tAd0xcfWke1TPlhKA34g0dOa6ne0LtGaWGwplthiPcEy8BizKBCeSQsQ 実際に解雇にあったImraさんのインタビューが以下の動画で紹介されていますが、顔認識が適切に認識しない場合にドライバーがどのように対応すれば良いのか明確になっていない点はこれから大きな問題になっていきそうです。 Uber drivers claim they were fired after identification software fail | ITV News https://www.youtube.com/watch?v=2OSGbWEVwlQ 英国と欧州の法だとUber側は必要な判断を行うために人が介在してアルゴリズムだけではない判断が求められるとされていますが、ここでいう必要な判断(“meaningful”)とは一体何かというのはこれから具体的に議論が必要なポイントです。
3Picks
NORMAL