顔認識技術の実用化に広がる懸念、テック企業も規制の必要訴える

2018/12/11
日常生活の奥深くに入り込む危険性
ようやく、という感じだ。顔認識技術の利用について規制が必要だという声が、本格的に広まりかけていることについてである。
ここ数年急速に進歩を遂げてきたAIの中でも、顔認識技術はすでに実用化され、人々の生活の奥深くに入っている。それにもかかわらず、その是非が十分に話し合われてこなかった。
ところがここ数カ月の間に、この技術の利用については何らかの規制を設けなければならないという声が研究者だけでなく、人権擁護機関やテクノロジー企業からも上がっているのである。裏を返せば、それだけ顔認識技術の怖さが明らかになってきたということなのだろう。
企業で大きな声を上げているのは、マイクロソフトだ。同社会長で法務部トップのブラッド・スミス氏が、今年夏から顔認識技術について発言を繰り返してきた。
そして先日、ついに「今こそ行動に移さなければならない」として、具体的な提案を挙げた。他のテクノロジー企業もともに行動すべきだと訴えている。具体的な提案というのはこうだ。
まず、技術が進んだといってもまだ完璧ではないために、バイアスや偏見を盛り込んだ結果を出すこともある。そうした技術の不完全さについて公にし、また人間が評価したり、第三者によるテストを行ったりして、技術の精度を確認することを課すべきだということ。
次に、プライバシーの観点から、顔認識技術が導入されている場合は最低でもそのことを利用者に知らせ、利用者の同意を得ることが必要だということ。
そして、人権の視点から見て、政府による監視によって民主的な自由が奪われることがないようにしなければならないということ。個人のサーベイランスは、裁判所命令がある場合や生死に関わるような危険な状況に制限されるべきだという。
これらはかなりはしょった内容で、実際にはかなり突っ込んだところまで言及している。
テック企業が策定した「6つの原則」
実はそのマイクロソフトは自社で顔認識技術も開発し、顧客や開発者に提供している。まるで他人事のように述べているが、自社の商売はどうするのかという疑問が頭をもたげるだろう。
それについて同氏は、マイクロソフト自体が顔認識技術に対して6つの原則を策定したことを明らかにしている。同社が守ろうとするこれら原則は、各国政府も参考にできることだという。
その6つの原則とは次の通りだ。自社の姿勢と顧客企業へのサポートの両方が盛り込まれているのがわかる。
フェアネス(あらゆる人をフェアに扱う)
透明性(機能性とその限界を明らかにする)
アカウンタビリティ(マイクロソフトの顧客企業が、適切な人間の制御を盛り込み、相手の同意を得て利用することをサポートする)
無差別(不法な利用のためには顔認識技術を提供しない)
告知と同意(顧客企業が、顔認識技術を告知と同意に基づいて利用するよう奨励する)
合法的なサーベイランス(政府のサーベイランスについては、人々の自由を守るものを支持し、そうでないものには提供しない)
マイクロソフトのスミス氏の発表とほぼ時を同じくして、AI Nowという研究所も人々のプライバシーを守るために顔認識技術に規制を設けるべきだというリポートを発表している。
同研究所は、オバマ政権時にホワイトハウスの科学技術政策オフィスが開催したシンポジウムをきっかけに設立された組織で、AIのバイアスや自動化と雇用問題などを研究している。
「顔認識技術を独り歩きさせてみた」ある実験結果
また、人権擁護問題でよく知られるアメリカ自由人権協会(ACLU)も、かねて顔認識技術が野放しになっていることを指摘してきた。
ことに政治運動を行う人々が顔認識によって身元を明らかにされることがあれば、人権や言論の自由を損ないかねない危険性を持つ。
実はACLUは「顔認識技術を独り歩きさせるとこうなる」という実験を7月に行っている。アマゾンの顔認識技術を利用して下院議員の顔をスキャンしたところ、そのうちの28人が逮捕歴を持つ前科者として特定されたのだ。
特に、前科者として照合された40%は有色人種の議員だった。下院の有色人種の比率は20%に過ぎないのに、である。同社の顔認識技術は全米の警察で広く使われているものらしいが、不完全であるばかりでなく、バイアスも抱えているというわけだ。
有用であることももちろん多いが、不完全で間違いを起こし、人々のプライバシーを侵し、ビッグブラザーのまたとない監視ツールとなる。顔認識技術のレベルの高さを面白がっていたが、もうとっくにそんな時代は過ぎているのだ。
中国では、逃れるところがないほどに町中のカメラが人々の顔や動きを捉えて顔認識を行っている。6万人もの観客が集まるコンサート会場で犯罪者を見つけ出したこともある。
技術的には、どの国でもこのくらいのことはもう可能になっているだろう。規制を求める叫びが、遅過ぎないことを願うばかりだ。
*本連載は毎週火曜日に掲載予定です。
(文:瀧口範子、写真:© Microsoft 2018)