「AIによる人類滅亡」を警告する“うぬぼれたテックエリート”を信じてはいけない
コメント
注目のコメント
かなり長い文章で綴られているのは、痛烈なAIテック企業リーダーへの批判でした。
「真のリスクは、IT業界にはびこる既存のインセンティブや非道徳性と、それらを規制できずにいることである。」
ハルシネーション（幻覚）や権利侵害などの AIそのもののリスクが恐怖なのではなく、自らリスクあるものを開発し、自ら警鐘を鳴らす不思議な現状への批判とも捉えられます。
たしかにOpenAIも、Googleも、Microsoftも、自ら積極的にAI開発を推し進め、製品・サービスを販売しておきながら、将来的な危険性を訴えるという矛盾状態にあります。
その背景は、記事にもあるように、短期的な利益の追及と、新規参入を封じるための過剰な警鐘であって、パフォーマンスにしか見えないと言われてもおかしくはありません。
誤った情報を"悪意をもって"生成するのは、AIではなく人間の方ではないか、そう思わさせられます。AI社会の未来予想は、生成AIのハルシネーションと同じで、各論客の幻想だと思って、半信半疑で見るのがちょうど良いかと。
ちなみに、このスコット氏の未来予想は、割と現実的で好感です。
> テクノロジーは私たちの生活を変えていくが、通常は私たちが予想するような変化の仕方はしない。未来は『ターミネーター』のように悲惨でも『宇宙家族ジェットソンズ』のように脳天気でもないだろう。行き着く先は、未来学者が描くような極端なものでは決してない。それは乱雑で、多面的で、社会の消化管をどうにか通過する頃には予想以上に退屈なものになっているだろう。「テック界の破滅論者は、これから起こる悲惨な事態は自分たちの行動の結果ではなく、進歩の必然的な代償だという物語を作りたがっている。」とのこと。
かなり過激な論を展開していますが、いろいろな事実をちりばめていて、妙な説得力がありました。長過ぎるけど面白かったです。
