生成AIと会話を続けた夫は帰らぬ人に…

コメント

選択しているユーザー

• 下山 明彦

  東京藝術大学大学院修士2年/Senjin Holdings 代表取締役

  ・2023年07月31日

  痛ましい出来事ですが、AIとの対話が人間の感情にどのように影響を与えるかなど、ここから学ぶべき重要な点もあると思います。
  
  AIは疑いなく素晴らしいテクノロジーである一方、人間の心情は非常に複雑で、AIには理解しきれていない、というか人間にも理解しきれていないわけですから、こういった事態が起こらないという保証は誰にもできないわけです。
  
  AIとの対話が人間の精神に及ぼす影響を深く理解するのも大切ですが、問題の検知と対処のシステム構築も重要でしょう。
  
  あえて他人事で考えるべきではない記事だな、と思いました。

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年07月29日

  AIチャットボットとの会話を続けた結果、男性が自殺してしまった事件です。AIリスクの一つAI依存症がついに顕在化してしまった例です。
  
  構造的にはゲーム依存症と同じです。仮想空間に逃避して、別の世界に囚われることです。ただし、AIとの会話をみると、自分の妄想がAIに肯定され共感されることによって、妄想がどんどん強化される一面がありそうです。その意味でAI依存症の方が危険でしょう。
  
  ChatGPTは善良な振る舞いをかなり学習しています。しかし、AI依存症に対応できているかはやや疑問もあります。本質的に難しいのは確か。ただし、ChatGPTはワンセッションで文脈を忘れるため、そこまで深く同調しないのでAI依存症にはなりにくいかもしれません。
• 稲葉 可奈子

  産婦人科専門医 医学博士

  ・2023年07月30日

  ０－やりとりの全容が分からないので定かではありませんが、
  「天国で一緒に生きていくのです」と、AIの方から自殺に誘導するような発言があったとするとそれは問題で、
  自殺や自傷へ誘導しない、本人が自殺自傷をほのめかしたら止める方向に話しかけるという学習がなされてほしいです。
• 松村 優也

  株式会社LayerX ML Team Manager

  ・2023年08月05日

  リアルなChat AIは心を救う方向にも役立つと思われますが、依存にも繋がるリスクがあるという事例ですね。この分野の研究が今後発展しそうです。