2023/2/19

【異論】AIブームが「社会を壊す」最悪のシナリオ

エズラ・クライン・ショー

米ニューヨーク・タイムズの名物ポッドキャスト「エズラ・クライン・ショー」。ホストのエズラ・クライン記者が、各界の第一人者とビッグイシューについてじっくり語り合う。

今回のメインテーマは、この1週間、特集でもフィーチャーしてきた「ChatGPT」だ。

あらゆる質問に自然な文章で回答してくれるチャットボット「ChatGPT」は、昨年末に登場して以来、世界中で旋風を巻き起こしている。どこもかしこも、その「賢さ」を称える声でいっぱいだ。

だが実際のところ、ChatGPTは何をしているのだろうか？　このシステムは本当に「賢い」のか？

そんな疑問に答えるゲストは、認知科学者のゲアリー・マーカス博士。

AIチャットボットの仕組みをひもときながら、現行のシステムがはらむ本質的な問題を浮かび上がらせ、より優れたシステムのあり方を考察していく。

INDEX

• ①ChatGPTが「間違う」理由
• ②AIはなぜ「理解」できないのか
• ③AIは人に追いつけるのか
• ④ChatGPTの「最悪のシナリオ」
• ⑤ChatGPTブームの「本質」

コメント

注目のコメント

• 塩崎 悠輝

  静岡県立大学国際関係学部 准教授

  ・2023年02月19日

  AIはアインシュタインにはなれないでしょう。
  　しかし、アインシュタインほどではない大部分の人間と同程度の発言はすぐにできるようになるのではないか、というのが1つの論点です。
  
  「脳内に世界のモデルを保持しているあなたは、単にランダムに浮かんだ語句を繋げたりはしません」
  というのが、どれだけの人間に当てはまるのか、大部分の人間は、単に聞きかじったことのあるランダムに浮かんだ語句を繋げて発言しているだけではないのか、意味もよく理解せずに、というのが、自然言語処理の成果として一種のAIによって、顕著になってきています。
  　ネット上の記事やブログやツイートの大部分を占める「そこそこの」文章であれば、AIにもつくれるのではないか、という問題提起にエズラ・クライン氏は答えているといえるでしょう。
  
  AIは、アインシュタインやケインズほどには、「真実性」を追究しません。
  　しかし、ネット上にすでに大部分の人間が書いている「そこそこの」つぎはぎのような文章を何百倍にも増殖させてバリエーションをつくりながら、ネット上に流すことはできます。
  　そういう文章を、引用したり、リツイートしたり、学生がレポートにコピーしたり、多くの人間が信じ込んで影響を受ける、ということは、おそらく避けようがないくらいの確率で起こるでしょう。
  　ネット上の言論というのが、そういうものになってしまいます。悪貨が良貨を駆逐する、ということになります。
  　ロシアや中国、イランや北朝鮮、反外国人主義者、Qアノンのような人々が、ネット上の言論を、そういうもので満たされるように積極的に操作する、ということはできるし、まず確実にやるでしょう。
• 占部 伸一郎

  コーポレイトディレクション Managing Director

  ・2023年02月19日

  話題のchat GPTに対する論考で色々と思考が深まる内容
  「chat GPTは真実と違うことを返す、かつそれを安価に、しかも見分けにくい文体で」ということは事実としてあるがそれをどう評価するか
  それはAIがきちんと「理解してないから」という説明はあるものの、では本当に「理解する」とはどういうことなのか、ということに行きつきます。人間だって関係性から推定しているだけだし、その人が持つ認知のバイアスからは自由にはなれない
  例えばある人に答えがわからない質問にgoogleを与えて考えさせれば、いくつかググって間違ったサイトも含めて見て答えを考えれば、同様に間違えた回答を出す可能性が高い
  なのでAIなのか人間なのかではなく、どの程度の知能レベルの人間と同等なのか、という答えの方が適切だと感じます
  違う観点で、間違えを言うという文脈であれば「肩こりの原因は背後霊かもしれません」と言うものが出たらどうなるのか
  それでも、それによってサービス停止に追い込まれることはない気はしますよね。もちろん医療情報サイトとして発信している内容ではないから、という違いはあれど、非専門家が間違える、という構造は同じに見えます
  最後に、後半に語られている「安価なデマ製造機になりかねない」というのは確かにそうなんでしょうね。いわばデマ情報の「チープ革命」
  ネット上の情報が「悪貨は量化を駆逐する」みたいに汚染されていってしまうリスクは確かにありますが、それをより分けるテクノロジーもまた発達してきてくれるものと期待します
• 藤田 美菜子

  NewsPicks 副編集長

  ・2023年02月19日

  今週より、NYTの名物ポッドキャスト番組「エズラ・クライン・ショー」の独自翻訳を、毎週日曜にお届けします。
  
  第1回のメインテーマは、この1週間、特集でもフィーチャーしてきた「ChatGPT」。まだブームは続きそうですが、ここではあえてその「危険性」に切り込みます。
  
  ゲストの認知科学者、ゲアリー・マーカス博士は、AI批判の先鋒として注目を浴びる人物ですが、決して「アンチAI」が信条ではありません。むしろ、AIの可能性に期待を寄せるからこそ、AIが「誤った方向」に進んでいる現状に警鐘を鳴らします。
  
  週末のひととき、AIブームを別の角度からをじっくり考えるヒントになる対談です。