新着Pick
559Picks
Pick に失敗しました

人気 Picker
2001年の同時多発テロ以降、欧米ではとにかく人権よりもテロ対策が最優先されてきたが、それも一段落付き、今後は人権や個人情報重視の方に振り子が戻るのだろう。ただし今後も中国は国民の顔データを収集し続けるようなので、顔認証等の技術は中国が独占していく可能性はある。
EUのAI規制案によると、顔認証をはじめとする生体認証技術は、公共空間における警察などによる法執行目的での利用を原則禁止するとのこと。テロを初めとする犯罪の未然防止対策を実施するとき、マイナスになることはないのか心配になる。人権を保護することは重要だけど、同時に大規模なテロを大都市の混雑にまぎれて準備するグループを事前に発見する上では有効なのだから。
この問題でいつも思い出すのは、AIの人格や人権です。

人工知能が発達し、将来人間がコントロール出来ない状態に陥り“暴走”したりしないか… 日本の人工知能学会の倫理委員会が、AIの倫理指針を2017年にまとめています。 

http://ai-elsi.org/report/ethical_guidlines

最後の項目に「(人工知能への倫理遵守の要請)人工知能が社会の構成員またはそれに準じるものとなるためには、上に定めた人工知能学会員と同等に倫理指針を遵守できなければならない」とあります。

AIが、“社会の構成員”となる日は、近付いているのだと思います。
中国などで顔認証技術の導入が進んでいますが、本人の同意を取っていない認証については、欧州委員会では元々GDPR違反になると見ていたと思います。公共の場での顔認証について、欧州委員会は昨年の原案では5年間の禁止を検討していましたが
こうなったのですね。
報道もその受け止めも荒すぎ。まずそもそも法案であり可決には年単位でかかる。顔認証を禁ずる対象は政府、自らを縛る。その他企業の活動はその重要性により事前審査対象もあるがAI使用してる旨を明示すれば原則OK。

米国がやらかしスノーデンが暴いたように政府も時に暴走する。政府自らが縛るというのは強い理念に基づく。
W.ギブスンのSF ニューロマンサーでもAIを規制する警察 Turing Police が出てきますが、もはや現実の話ですね。https://williamgibson.fandom.com/wiki/Turing_Police
個人のプライバシーを守るEUの政策は、何もAIだけに限った話ではない。たとえば、yahooのサイトを開けば、まず何が出てくるかが日本とは違う。
https://de.yahoo.com
EUの規制は基本的に個人の自由やプライバシーを守ることが第一の原理となっているが、それは中国のやり方の真逆。それが技術発展にどのような影響を与えるのか、日米欧の協力にどう影響するのか、ということが気になるところ。
MITの研究員時代、同じ建物の同じフロアに、この分野の世界的権威であるTomaso Poggio博士のラボがあったので、自分の専門外でしたがよくセミナーを聞いていました。顔認証システム(Face recognition system)の進化は、確かに犯罪防止の観点である一定の成果を上げてきましたし、DARPAやARLといった軍事関係グラントが私たちの生活に直結した一つの例かもしれません。

深層学習と組み合わせて、さらに機能が向上してきた中で、EUがこのような決定をしたのは、非常に興味深いです。「犯罪抑止力」という目の前の実利よりも、「法的正当性をもう一つ落ち着いて問いただそう」という、ある種、極めてEUらしいディレクションのように思います。

一方で、詳細を追い切れていませんが、「原則禁止」の中にどの程度、個人と切り離した情報が許可されるのかも気になりました。例えば、「男性や女性の解析」は許されるのか、「笑ってるか、泣いているかといった表情の解析」は許されるのか。ゲノム情報の取り扱い経緯を考えれば、表情情報は可変であり、個人と紐づけられない限りにおいては、本件には抵触せず、マーケティング価値の大きい情報といえます。

今後の他国(特にUS)の動きに注目しています。

ーーーーーーーーーーーー
余談ですが、2020年4月のScience誌に人工知能を使ってマウスの表情を解読し、さらに特定の感情と相関して活動する神経細胞が明らかになったという研究が発表されました。痛い時、苦いものでウェーっとなってる時、甘いもので嬉しくなってる時などで、微妙に表情が違うのが面白いです(Figure1)。

Facial expressions of emotion states and their neuronal correlates in mice
https://science.sciencemag.org/content/368/6486/89
AIの利用に関してEUが初の規制案を発表。顔認証などのところは気になるところではあります。今後は世界的にAIに対する規制が作られてくるのだと思います。日経新聞の記事が有料ですが詳しく書かれています。

EUがAIに包括規制案 世界で初、顔認証利用に事前審査も(日本経済新聞)
https://newspicks.com/news/5787439