顔認証、人種で正確さに違い＝黒人、アジア系は誤認しがち―米調査
コメント
注目のコメント
顔認証の技術そのものに根本的な欠陥があると言わんばかりの議論には与しかねる。
「黒人やアジア人、高齢者や子供では誤認が起きやすく市民の権利や自由を脅かしかねない」という主張には論理の飛躍がある。それは単に、当該カテゴリーに属する人のデータがまだ少ないからではないか？元記事は多分こちら
Federal study confirms racial bias of many facial-recognition systems, casts doubt on their expanding use
https://www.washingtonpost.com/technology/2019/12/19/federal-study-confirms-racial-bias-many-facial-recognition-systems-casts-doubt-their-expanding-use/
これ、いつの調査に基づく発表なのか大変興味があります(記事からは読み取れず)。ICMEという国際会議のkeynoteでMSのvice presidentの1人であるHarry Shum氏が話していましたが、一時期人種による精度の偏りが報道されたときに、直ちに対策チームを立ち上げ人種・性による差が全くないとは言わないまでも気にならない程度にまで偏りを取り除いたはず。先日も書きましたが、米国では出入国管理における顔検出技術使用の全員義務化の方針が撤回されました。その理由の一つがこの記事にもある人種間での誤検出率の違いです。その際は確か民間団体からの問題提起でしたが、この記事はNISTが調査結果を出したという点で重みが違います。
https://www.nist.gov/news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software
上記のNISTの発表の概要は一体何が問題なのか簡潔に説明しており必読だと思います。顔認識のタスクを「一対一」(一つの顔画像と比較するもの。パスポートの顔認識ゲートなど)と「一対多」(データベース上の多数の顔画像から一致するものを見つけるもの。顔認識改札、監視カメラ映像からの容疑者の発見など)に分けて、次のような点を指摘しています。
・先行研究について、人種グループ別のアルゴリズムの正確さについて検証した研究は「一対一」のタスクについては僅かであり、「一対多」に至っては皆無。
・「一対一」での偽陰性は単に不便なだけ(大抵はやり直せばどうにかなる)。他方で「一対多」での偽陽性は誤った告発・拘留・国外追放に繋がる可能性がある。
前者はちょっと驚きでしたが、後者に関してはNISTの報告書を待たずとも顔認証技術に関して当然考慮されるべき点です。しかしこの様な論点が日本ではちゃんと共有されていないのでは? という懸念が正直あります。
どうも隣の国の顔認識とか信用スコアを活用してガンガンいこうぜ的な雰囲気に飲み込まれて、人権上当然考慮されるべき、そして米国や欧州では実際議論されている様々な論点が日本ではすっぽ抜けてはいないか再確認すべきではないでしょうか。
これを怠れば、大阪の顔認識改札も万博を迎える頃には技術的優位性ではなく人権感覚の後進性を海外にアピールするものになっているかもしれませんよ。
