【異論】AIブームが「社会を壊す」最悪のシナリオ
コメント
選択しているユーザー
DeNAのウェルク騒動の際に、あらゆるジャンルの記事を洪水にように提供する「パレット構想」というのが話題になりました。
非常に廉価でコピペ記事を大量生産できるスタッフに外注して記事の内容は問わずひたすらビューを稼ぐことを目的としていた
と理解しています。
一方で世の中の情報なんて大手メディアも含めて同じようなものだ。という考え方もあります。
私も元々テレビ出身でワイドショーや科学番組やお堅いドキュメンタリーの現場に携わり、今では農業に関しては専門性を求められる文章を書いていますが
自分自身の発信が、論文における査読のようなものを経てでも自信をもって事実といえる内容か？と問われれば日和ってしまいそうです。
おそらくここに書かれている批判は
AIは迷ったり、後悔したり、罪悪感を持ったりしないから平気でウソをつける超有能なサイコパスかもしれない
それを素晴らしいと賞賛している可能性を我々はどう排除するのか？ということなのかなと思います。
あるいは「優しいウソ」と「シビアなホント」があった場合
どちらに心動かされて人は頼ってしまうのか？みたいな生き方問題もあるのかなと思いました。
いずれにせよ、chatGTP(使ってみました)のスピード感に乗っかる一方で
ちょっと待てよと沈黙したり、時間をおいて判断したりする「間」こそにこれからの我々の個性がでるでしょう。
その「間」にいろんな自分にとっての大事な人々の顔を思い浮かべて、判断するのが人の生き方かと。
注目のコメント
AIはアインシュタインにはなれないでしょう。
しかし、アインシュタインほどではない大部分の人間と同程度の発言はすぐにできるようになるのではないか、というのが1つの論点です。
「脳内に世界のモデルを保持しているあなたは、単にランダムに浮かんだ語句を繋げたりはしません」
というのが、どれだけの人間に当てはまるのか、大部分の人間は、単に聞きかじったことのあるランダムに浮かんだ語句を繋げて発言しているだけではないのか、意味もよく理解せずに、というのが、自然言語処理の成果として一種のAIによって、顕著になってきています。
ネット上の記事やブログやツイートの大部分を占める「そこそこの」文章であれば、AIにもつくれるのではないか、という問題提起にエズラ・クライン氏は答えているといえるでしょう。
AIは、アインシュタインやケインズほどには、「真実性」を追究しません。
しかし、ネット上にすでに大部分の人間が書いている「そこそこの」つぎはぎのような文章を何百倍にも増殖させてバリエーションをつくりながら、ネット上に流すことはできます。
そういう文章を、引用したり、リツイートしたり、学生がレポートにコピーしたり、多くの人間が信じ込んで影響を受ける、ということは、おそらく避けようがないくらいの確率で起こるでしょう。
ネット上の言論というのが、そういうものになってしまいます。悪貨が良貨を駆逐する、ということになります。
ロシアや中国、イランや北朝鮮、反外国人主義者、Qアノンのような人々が、ネット上の言論を、そういうもので満たされるように積極的に操作する、ということはできるし、まず確実にやるでしょう。話題のchat GPTに対する論考で色々と思考が深まる内容
「chat GPTは真実と違うことを返す、かつそれを安価に、しかも見分けにくい文体で」ということは事実としてあるがそれをどう評価するか
それはAIがきちんと「理解してないから」という説明はあるものの、では本当に「理解する」とはどういうことなのか、ということに行きつきます。人間だって関係性から推定しているだけだし、その人が持つ認知のバイアスからは自由にはなれない
例えばある人に答えがわからない質問にgoogleを与えて考えさせれば、いくつかググって間違ったサイトも含めて見て答えを考えれば、同様に間違えた回答を出す可能性が高い
なのでAIなのか人間なのかではなく、どの程度の知能レベルの人間と同等なのか、という答えの方が適切だと感じます
違う観点で、間違えを言うという文脈であれば「肩こりの原因は背後霊かもしれません」と言うものが出たらどうなるのか
それでも、それによってサービス停止に追い込まれることはない気はしますよね。もちろん医療情報サイトとして発信している内容ではないから、という違いはあれど、非専門家が間違える、という構造は同じに見えます
最後に、後半に語られている「安価なデマ製造機になりかねない」というのは確かにそうなんでしょうね。いわばデマ情報の「チープ革命」
ネット上の情報が「悪貨は量化を駆逐する」みたいに汚染されていってしまうリスクは確かにありますが、それをより分けるテクノロジーもまた発達してきてくれるものと期待します今週より、NYTの名物ポッドキャスト番組「エズラ・クライン・ショー」の独自翻訳を、毎週日曜にお届けします。
第1回のメインテーマは、この1週間、特集でもフィーチャーしてきた「ChatGPT」。まだブームは続きそうですが、ここではあえてその「危険性」に切り込みます。
ゲストの認知科学者、ゲアリー・マーカス博士は、AI批判の先鋒として注目を浴びる人物ですが、決して「アンチAI」が信条ではありません。むしろ、AIの可能性に期待を寄せるからこそ、AIが「誤った方向」に進んでいる現状に警鐘を鳴らします。
週末のひととき、AIブームを別の角度からをじっくり考えるヒントになる対談です。
