米警察の「調書の作成を自動化するAIツール」が批判される理由

コメント

選択しているユーザー

• スズキ マンジ

  スズキマンジ事務所　代表 （株）デンソー　CX

  ・2024年05月06日

  法的証拠となる文書を、現時点のAIに任せることは、あまりにもリスクが大きいと考えるのは当然でしょう。
  
  ※個人的な見解であり、所属する会社、組織とは全く関係ありません

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2024年05月07日

  調書作成AIは、音声認識したテキストから、事実関係や動機等を抽出して整理するAIと思われます。創作する訳ではありませんから、幻覚やAI偏見が比較的起こりにくいとは思います。
  
  ただし、聞き漏らした項目を勝手に補う。別の文脈で語られたことを抽出する。同意と否定を逆にする。といった幻覚はゼロではありません。そこにAI偏見が入る余地もあります。
  
  記事にある「創造性の機能をオフにしています。その結果、幻覚や間違いの数が劇的に減りました。」はその通りでしょう。GPT-4では、多様性を制御するTemperatureパラメータです。他にも生成結果を自己評価させるなどの対策もあります。
• Oshima Sho

  通信技術

  ・2024年05月07日

  ボディカメラスイッチをオンにしてから逮捕している。AIに間違いがあれば、修正されるだろう。軽微な違反などは警察官判断で見逃している。それもボディカメラ映像に記録されている。AIの取締り状況の学習で、交通標識などの見直し、犯罪対策に役立つかもしれない。