世論操作に人工知能利用 オープンAIが特定
コメント
注目のコメント
生成AIのフェイクを実際に政治的に悪用した事例を詳しく紹介しています。
https://openai.com/index/disrupting-deceptive-uses-of-AI-by-covert-influence-operations/
これまでは敵対国の言語で世論操作するのは難しかったです。しかし、生成AIの登場によって、極めて精巧な外国語フェイクが作れるようになったことを痛感しました。とても重要なレポート。外国勢力(ここでは中国が指摘されています)が日本世論への工作の場にアメブロを選んだ点も興味深い。当該投稿がどれほど影響を及ぼしたかは実はそれほど問題ではなく、明るみに出ることで社会に疑心と分断の種をまくのが狙いなのです。
まあ、いずれ起きそうな事象だとおもいましたが、実例の紹介という形でしょうか。
政治方面でアメリカの大統領選でも、戦争方面使われそうという想像はつきます。
規制も必要かもしれませんが、規制するだけだと日本的発想で何も変わらない＆規制を無視したり破る人が出てくるので、
「この情報や文章は本物であることを証明する技術の発展」
を期待します。（AIが作った証明マークとかではないです。DRMでコピーガードしたり、暗号化方面応用や電子すかしとかになります）
おそらくはその辺で拾った写真や文章の情報がフェイクで溢れ、信じられなくなる時代は、AI系のコストダウン次第では高確率で来るんじゃないかな、と思っています。そして、大衆にそれを見破る事は出来ない。
