【ミニ教養】トップ研究者ほど「AIを止めろ」と叫ぶ真の理由
コメント
選択しているユーザー
ここ数ヶ月の生成AIの進化は完全に想像を超える進化ゆえに最先端の専門家がこれほどまでに警鐘を鳴らす理由かと。
GPT4出現により指数関数的進化が始まったというのは間違いないと思っています。人間とは比較にならないレベルの超知能が誕生すれば、もはや人間がコントロールすることが出来なくなる恐れがあるため、アルトマン自身が規制機関を作るべきと言うのは正しい方向だと思います。
2007年にシンギュラリティのエバンジェリストであるレイカーツワイルの「ポストヒューマン」を読んだ時は、こんな時代になる訳ないと確信してましたが、たった15年程度でその片鱗が実現しています。これからシンギュラリティは2045年とレイカーツワイが言ってますが、早まる可能性すらあるのではないかと。
人類の将来の重要な転換点にあると思います。
注目のコメント
ここまでくると確かに恐ろしい。家で寝てても在宅勤務してるフリができそう。フリなのか本当にしている(させている)のか。→「音声も誰かの声を使って多言語を喋らせるレベルに来ていて、動画生成も進化を続けていることを考えると、例えばZoomの向こう側にいる人が本物かAIかわからなくなる、という事態は容易に想像できる」
「AIのゴッドファーザー」であるヒントン氏が、AIのリスクを公に訴え出した次の日に、ChatGPTのOpenAI総帥サム・アルトマンの講演を直で聞いてきました。
詳しくはご覧いただければと嬉しいが、テクノロジー面だけでなく、規制など政治面やアカデミアまでもがリアルタイムで動くダイナミズムが見えるのが、今、とても面白いです。ChatGPTが発表されて数ヶ月、新たなサービスを発表する企業が相次ぐ一方で、ヒントン氏をはじめとした警鐘・規制論も同時に叫ばれ、まさにカオス状態が続いています。
こうした状況を見て思うのは、消費者は再び置き去りになり、流れに身を任せるしかないのかということです。
「革新的なサービスが登場!」の謳い文句に誘われて使い始めてみた矢先に、「危ないから使うな!」という警鐘が鳴らされ、実際のユーザーは相当に振り回されているように感じます。
推進派・保守派いずれの立場の見解も一理ありますし、急激に新しいテクノロジーが生まれるときは、常にこうしたカオスがつきものなのかもしれません。
ただ、宣伝し、報じ、警鐘を鳴らす人はいれど、オーナーシップをもってこのカオス状態を整理・解決しようという行動するトップ・政治家・専門家・メディアが現時点で見られないことは不安でなりません。