バイデン氏、グーグルやマイクロソフト首脳らと会合 ＡＩリスク巡り
コメント
選択しているユーザー
アメリカでAIが政治関連で一番直接的に危険と思われるのは、選挙でのデマの流布でしょう。2020年ですら、大統領選で偽情報とプロパガンダが飛び交って議事堂突入事件まで起こってしまったので、偽情報をより簡単に生成できてしまうAIの出現がますますこれを助長するのでは、という危険です。
そして、これを敵性国家がこっそりやっているのでは、という懸念は常について回ります。敵性国家がプロパガンダで煽り、アメリカ人のためには都合の悪い人を大統領に押し上げてしまうことだってあり得ます。
一方で、AI研究者が警鐘を鳴らす事例が相次いでいますが、例えアメリカ政府がスローダウンしろと言ったところで、中国は喜んでアメリカを追い越していくだけになります。
舵取りは大変難しいです。
注目のコメント
要点は、研究所の設置、評価機関の設置、ガイドラインの作成の3つのようです(原文より)
1. 研究所の設置
1.4億ドルで7つの研究所を設置するとは、Open AIやGoogle等の民間企業に任せておかないという意思の現れですね。
2. 評価機関の設置
とは言え、先行する民間をしっかり評価すると。ユーザーにとって、比較検証してくれるとありがたい。
3. ガイドラインの作成
欧州でも進みそうですが、形は異なるかもしれません。1と2をやってこそ、3のガイドラインがより良いものになりそうです。
(原文) Biden-Harris Administration Announces New Actions to Promote Responsible AI Innovation that Protects Americans’ Rights and Safety
https://www.whitehouse.gov/briefing-room/statements-releases/2023/05/04/fact-sheet-biden-harris-administration-announces-new-actions-to-promote-responsible-ai-innovation-that-protects-americans-rights-and-safety/バイデン政権は発足当時はGAFAを独占禁止法の対象とするという攻撃的な姿勢を見せてきたが、米中対立の文脈の中、技術的優位性をどう担保していくか、という問題や、AIの急速な発達による社会的な影響を考えると、結局GAFAと協力せざるを得ないと判断したのだろう。
進化する情報技術は使いこなすべきですが、弱点や危険性も認識すべきでしょう。検索エンジンの時から言われていましたが、大量のフェイクニュース記事や偏見に満ちた記事が流布している場合に、ChatGPTはその誤情報を元にフェイクの記事をあたかも本物のように作成してしまいます。存在しない文献をでっち上げたりも。
ニュース記者からの反発
https://amp.theguardian.com/commentisfree/2023/mar/03/fake-news-chatgpt-truth-journalism-disinformation
ChatGPT側も対策はしようとしていますが、Googleも Twitterも軽減はできても制圧はできないため、恐らく困難でしょう。そもそも情報の真偽は時や受け取る人によっても変わりますし、完全に画一化できるものでもないですが、受け取る側も常に心に留めておきたいですね。
ChatGPTの誤情報対策の取り組み
https://www.chathamhouse.org/publications/the-world-today/2023-04/chatgpt-has-opened-new-front-fake-news-wars
