2024/4/18

【AI】10代が標的「ディープフェイクヌード」が社会問題に

The New York Times

配信メディア【有料】

NewsPicksでは平日の毎日、世界のトレンドの背景を追う連載シリーズを開始しています。木曜日は「The Next Big Thing（次のテクノロジー）」です。

INDEX

• 同級生の男子が加害者に
• 被害者のメンタルや将来に悪影響
• 全米の学校で相次ぐ被害
• 法整備を求めて声を上げた母娘
• 厳罰化を打ち出す学校も

同級生の男子が加害者に

3月下旬、米ニュージャージー州にあるウェストフィールド高校の赤れんが造りの校舎で、同学区の教育委員会による定例会議が開かれた。

屋外のグラウンドに立つスコアボードには、他校からのチームを歓迎するように「ブルー・デビルスの本拠地」の文字が誇らしげに掲げられている（「ブルー・デビルス」はこの高校のスポーツチームの愛称）。

だが、自らも教育関係者であるドロタ・マニにとって、この日の会議はいつもと事情が違った。

昨年10月、ウェストフィールド高校では、ドロタの娘で当時14歳のフランチェスカを含む10年生（日本の高校1年生に相当）の複数の女子生徒が、同級生の男子たちがAIツールを使って彼女たちの写真をわいせつな画像に組み込み、拡散していることを知り、学校側に訴えた。

（写真：Imagesines / gettyimages）

コメント

注目のコメント

• 平澤 歩

  東京大学 中国思想文化学研究室助教

  ・2024年04月18日

  『論語』為政篇に「道之以政、齊之以刑、民免而無恥。道之以德、齊之以禮、有恥且格（法令や刑罰によって規制しても、人々は抜け穴を見つけて行いを恥じることもないだろう。道徳や礼によって規制すれば、それに外れる行いを恥じて身を正すようになるのだ）」と言います。
  技術の発展と犯罪行為の巧妙化・容易化は、法令・取り締まりによる対策と常にイタチごっこの関係にあります。法改正や操作体制の整備といった対策はもちろん必要ですが、それと併せて倫理観の新たな整備・議論・共有も軽視してはならないように思われます。
• 髙栁 綾

  NewsPicks編集部 インターン

  ・2024年04月18日

  AIツールの台頭によって、性的なディープフェイク画像が生み出されるという問題が起こっています。被害は急速に広まっているにも関わらず、学校などはそれに対応する制度を整備している段階。
  
  時に技術の進歩は、私たちを悩ませる頭痛の種を蒔いていることと同義であるのかもしれません。
• 佐藤 元則

  NCB Lab. 代表

  ・2024年04月18日

  ルールとして生徒に周知することが重要です。ディープフェイクは悪いことで厳罰に処されることを。