「実在しない顔」は実在しない? AIが作った架空の顔を巻き戻す
MITテクノロジーレビュー
6Picks
コメント
選択しているユーザー
注目のコメント
GANによる画像生成技術はすでに架空の顔写真生成などで実用化されているようにも見えますが、実はまだまだ不安定です。人の顔は顔たる条件が明確なので、生成しやすいです。背景や服装が生成されていないことからもなんとなく気づいていただけると思います。
DNNの研究は今もものすごいスピードで進んでおり、この記事と反対に学習の途中でわざと与えられた学習データの一部を忘却させる研究というのもあります。
ご参考までに、記事中で言及されている論文はこちらです。
This Person (Probably) Exists. Identity Membership Attacks Against GAN Generated Faces
https://arxiv.org/abs/2107.06018ある絵画にそっくりな人がいる様に、
AIが合成して作った顔と瓜二つの
人が存在しないと言う証拠は無いので、
「実在しない」と書くのでは無く、
「この顔はAI合成で作られた架空の物です」
と言う表記の方が万が一ソックリな人がいた時に
問題になりにくい気がします。メンバーシップ推論攻撃は、あるデータがAIモデルの訓練に使われたかどうかを判別するのに使える手法です。つまり、匿名を条件に提供した画像が特定されてしまうなんてことも。