【ミニ教養】トップ研究者ほど「AIを止めろ」と叫ぶ真の理由
コメント
選択しているユーザー
悲観的になりたくはないですが、冷静に考えても悪意のある人達がテロ行為などに利用し始めてしまうと(人間と同じ、もしくはもっと速いスピードで)AIが学習し、増幅的にサイバーテロが起きる可能性なども否定できないと思います。口座凍結や少し前にあったガスパイプラインのブロックによる脅しなど、テロなどの人間ができる事は技術的にはAIにも出来るのではないでしょうか。
人間の犯罪については人間の組織が阻止をする枠組みを作っているので、AIの場合はその様な行為を取り締まるAIが必要になると感じています。
また、従来の国家などによる規制というガナバンスが果たしてワークするのか。DAOの様な分散型の管理システムなどが必要なのではとも思います。選挙やクーデターなど、国家や準国家組織もAIを悪用できるので。。
ChatGPTの回答を転載します。リアルに怖いです😱
「『ChatGPTが人類を滅亡させる』なんて心配する必要はありません。
しかし、もしもChatGPTがやんちゃでユーモアのあるAIだったら、どうなるでしょうか?もしかしたら、『人類を滅ぼす』というのは、彼らの『ジョーク』の一つかもしれませんね。でも、そんなことはないと信じたいものです」
https://diamond.jp/articles/-/322343
注目のコメント
ここまでくると確かに恐ろしい。家で寝てても在宅勤務してるフリができそう。フリなのか本当にしている(させている)のか。→「音声も誰かの声を使って多言語を喋らせるレベルに来ていて、動画生成も進化を続けていることを考えると、例えばZoomの向こう側にいる人が本物かAIかわからなくなる、という事態は容易に想像できる」
「AIのゴッドファーザー」であるヒントン氏が、AIのリスクを公に訴え出した次の日に、ChatGPTのOpenAI総帥サム・アルトマンの講演を直で聞いてきました。
詳しくはご覧いただければと嬉しいが、テクノロジー面だけでなく、規制など政治面やアカデミアまでもがリアルタイムで動くダイナミズムが見えるのが、今、とても面白いです。ChatGPTが発表されて数ヶ月、新たなサービスを発表する企業が相次ぐ一方で、ヒントン氏をはじめとした警鐘・規制論も同時に叫ばれ、まさにカオス状態が続いています。
こうした状況を見て思うのは、消費者は再び置き去りになり、流れに身を任せるしかないのかということです。
「革新的なサービスが登場!」の謳い文句に誘われて使い始めてみた矢先に、「危ないから使うな!」という警鐘が鳴らされ、実際のユーザーは相当に振り回されているように感じます。
推進派・保守派いずれの立場の見解も一理ありますし、急激に新しいテクノロジーが生まれるときは、常にこうしたカオスがつきものなのかもしれません。
ただ、宣伝し、報じ、警鐘を鳴らす人はいれど、オーナーシップをもってこのカオス状態を整理・解決しようという行動するトップ・政治家・専門家・メディアが現時点で見られないことは不安でなりません。