米アマゾン、警察による顔認証ソフト利用に1年の停止措置導入
コメント
注目のコメント
Amazonは警察による同社の顔認証サービス「Rekognition」の利用を1年間停止する措置を発表しました。ジョージ・フロイドさんに対する警官の暴行死事件から拡がった抗議デモにおける、不当逮捕への懸念に対応するものです。
IBMが汎用顔認証エンジンから撤退のニュースが昨日ありましたが、Googleは2018年の段階で、技術および倫理的な課題が解決するまで汎用顔認識エンジンを提供しないことを発表していました。
AmazonのRekognitionは米国の警察などが活用しており、例えば容疑者の身元特定を数日から数分に短縮したり、市街地に接地されている防犯カメラの映像と組み合わせることで、容疑者や過去に犯罪を犯した人物の行動をトラッキングできるようになります。そして、Rekognitionの価格はとても安く、容疑者逮捕時の写真30万枚以上を読み込ませるために400ドル、その後の運用に月6ドル程度で利用できてしまいます（オレゴン州ワシントン郡の場合）。
しかし、そもそも犯罪者を読み込ませることで、人種やジェンダーのバイアスがかかることに加え、過去の調査で肌の色が濃い人の性別判定が不正確であるとの指摘があり、不当な拘束や逮捕の原因になるとして、警察などの当局による運用をさせないよう、人権団体が求めてきました。アマゾンの顔認識ソフトは、「米国立標準技術研究所（NIST）」の試験を受けておらず、米国の警察で利用されているものの、実力が不明確な技術です。
一方、NECはこの試験での評価が高く、米国の国務省、国土安全保障省、国防総省と契約を結んでいますね。
技術的な観点から要約しますと、改善余地のあるアマゾンの顔認識ソフトで、万が一、誤認逮捕が発生すると、アマゾンのブランドの傷がつくということでしょう。時勢がらもあって判断しとということでしょう。
一方、アマゾンは、警察など提供を停止しますが、子供の行方不明探しなどには提供を続けます。顔認証ソフトが出した判断を人間（警察官）がどう解釈するか、が問われると思います。あくまで判断の責任は人間が負う。そこが明確でないと、amazonとしてもそこまでの責任は追えない、ということではないでしょうか。
