【新展開】ChatGPTトップら「AIは核戦争と同リスク」と警告
コメント
選択しているユーザー
注目のコメント
核兵器は、当初は第二次大戦の戦勝国や大国が独占して保有し、徐々に拡散していった（してしまった）という歴史があります。
拡散した核の技術が世界の不安定化を助長している部分はありますが、同時に、当初から核兵器を保有している大国が核による恫喝をしながら隣国を侵略しているということからは、大国が保有する核兵器も世界へのリスクを助長しているという解釈を導くこともできます。
そうなると、（１）先行者が連合して規制を推進し技術を独占・寡占することは現実的には難しい（技術は究極的には拡散しうる）、（２）先行者が自ら技術を悪用し、人類へのリスクを高める可能性も否定できない、と考えることもできます。つまり、どんな主体であれ、競争が存在する限り、技術が悪用される危険は存在するということです。
そうだとすれば、仮に「AIが人類全体を絶滅させるようなパワーを持ちうる」と専門家が判断しているのであれば、そのような最大のリスクとは何かを議論しながら、将来の悲劇的シナリオを防ぐために超えてはならない一線を特定し、最低限の規制を設けることは検討に値するのかと思います。
もちろん、AIがもたらす利便性や便益のために開発を推進すること自体を否定しているわけではありません。人類を絶滅させるような使い方とは何かということについて議論を続け、適切な規制を設け、必要に応じ更新していくということかと思います。他記事でも同様のコメントをしましたが、OpenAI、Microsoft、Googleなど、積極的に生成系AIのサービス展開を促進している企業のトップたちが、ここにきて急に規制を求める宣言を行なっています。
それほどリスクがあると認識していながら、なぜサービスの充実化を加速させているのか、なぜサービス展開を一度止めることはしないのか、なぜ他力本願的に政府機関に規制を求めるのか、個人的には違和感が重なっています。
パンデミックや核と同様とありますが、自然発生的に流行してしまうウイルスなどとは要因が全く異なります。自らリスクあるものを流布して、経済成長を盾にそれを止めず、始末だけを他に任せているように見えてしまいます。
利便性が非常に高く有用なツールである一方、すでにいくつかの事件や問題も起きている中で、その責任はどこにあるのでしょうか。今現状はユーザー側・消費者側に押しやられているように思えてなりません。類似事象として併記されているパンデミックや核戦争は、多数の人間の生命に直接的な危険性を及ぼす因果の流れが直感的に直ちに理解できる一方、生成AIの危険性についてはその因果の流れが直感的に直ちに理解できないことが、難しさを生んでいるように思います。
そういった意味では、一昔前の気候変動問題に関する理解状況と似ているかもしれません。
もっとも、気候変動問題のリスク構造は時が経過しても大きくは変わらないですが、生成AIは日々急速に進化しており、リスク構造自体が変化しかねないところが、これまた非常に難しいなと感じます。
