メニューを開く
ニュース
マイニュース
特集
番組
トピックス
学び
探す
ログイン
プレミアムを無料で体験
急増するAI生成の違法ポルノコンテンツ 生成AI時代のジレンマ
知らぬ間に裸に AI生成ポルノ急増
2024/05/06
更新
写真：Bloomberg
AI技術の発展に伴い、生成AIによって生み出された違法なポルノコンテンツが急増し、世界中で深刻な問題になっています。なかには著名人や児童をモデルにしたものもあり、各国で対策を求める声が上がっています。
田井 明子
NewsPicks Content Curator
最新ニュース
【AI】10代が標的「ディープフェイクヌード」が社会問題に
NewsPicks編集部
・
2024/04/18
130
Picks
急増するAI生成の児童ポルノ、「法の抜け道」との闘い
Forbes JAPAN
・
2024/04/04
25
Picks
注目のコメント
増田（ソウタ） 幸美
日本プルーフポイント株式会社 チーフエバンジェリスト| 警察大学校講師
・
2024年04月05日
国境を越えたインターネット犯罪に対する法規制の整備、実行力などがますます求められます。日本の警察にはこの分野でぜひ、頑張ってもらいたいです。
「親友にディープフェイクのポルノ画像を作られた」 英女性が真実を突き止めるまで
BBC NEWS JAPAN
・
2024/04/05
比屋根 一雄
三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長
・
2024年01月06日
生成AIの生成画像は本質的に非実在です。なので児童の顔生成を止めるか、裸体全体の生成を止めない限り、擬似児童ポルノの生成は止められないはずです。
需要が高いからと放置するには、児童搾取は問題が深刻です。フェイクニュースや誹謗中傷でも画像生成AIの威力は絶大です。画像生成AIはカジュアルな悪用の影響が大き過ぎるとも感じます。AI規制が法整備されるまで、一旦立ち止まることが必要かもしれません。
画像生成AIの訓練に「児童ポルノ」が使用されていたことが発覚
Forbes JAPAN
・
2024/01/06
タイムライン
2024/04/18
【AI】10代が標的「ディープフェイクヌード」が社会問題に
NewsPicks編集部
2024/04/05
「親友にディープフェイクのポルノ画像を作られた」 英女性が真実を突き止めるまで
BBC NEWS JAPAN
2024/04/04
急増するAI生成の児童ポルノ、「法の抜け道」との闘い
Forbes JAPAN
2024/03/18
OpenAIの生成AI「Sora」、えっちな動画を作っちゃうかもしれない
ギズモード・ジャパン
2024/02/22
ＡＩ著名専門家ら、公開書簡でディープフェイク規制強化を要請
Reuters
2024/02/01
テイラー・スウィフト「偽ポルノ画像」拡散事件…生成AIで製作・加工された画像は現行法で罪に問えないのか？
現代ビジネス
2023/12/11
ＡＩ使い写真の女性を裸にするアプリが横行－ディープフェイク深刻化
Bloomberg
2024/01/06
画像生成AIの訓練に「児童ポルノ」が使用されていたことが発覚
Forbes JAPAN
もっと知る
【警鐘】AIポルノ生成スキルアップの行く末
NewsPicks編集部
・
2022/10/26
164
Picks
ディープフェイク動画のリツイートは「犯罪」！？
インターネット時代の闘い方
・
2023/11/07
9
Picks
生成ＡＩとみられる女性の「扇情動画」乱立 再生回数稼ぎ、収益目的も背景か
産経ニュース
・
2024/03/16
263
Picks
【大問題】ディープフェイクと戦う、AIツールが熱い
NewsPicks編集部
・
2024/03/30
414
Picks
アダルト可のAI「Unstable Diffusion」のクラファンが停止される 「健全性守るため」
ITmedia NEWS
・
2022/12/22
1
Picks
他のストーリー
リニア計画 まだまだ課題山積
キュレーター チェン ルネ・
7時間前
将来のない国から脱出したいイタリア人
キュレーター Yamada Yuko・
7時間前
JRも 大手が次々参入するアツい市場
キュレーター 足立 真莉・
18時間前
違反したら最大60億円 世界初の法案
キュレーター 川上 智子・
18時間前
何度値上げしてもファンは離れません
キュレーター 平川 凌・
2024/05/26
トップ
知らぬ間に裸に AI生成ポルノ急増
マイニュースに代わり
フォローを今後利用しますか
いいえ
はい
