生成AIが持つ「差別や偏見」増大リスク、金融機関に必要な「責任あるAI」とは？

コメント

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年09月06日

  金融機関の場合には、他業界より厳しい規制があります。生成AIにも厳しいです。
  
  AIチャットボットが、男性にハイリスクハイリターン商品を勧め、女性にはローリスクローリターン商品を勧めると、それはAI偏見と見なされかねません。女性の高収益機会を奪うからです。
  
  絶対儲かる的な発言や、不正確なリスク説明などのハルシネーションも許されません。
  
  その意味で当初は社内活用が主でしょう。もっとも金融機関は文書だらけなので、生成AIの活用シーンはいくらでもあります。
• 門馬 崇

  Nissho Electronics USA Corporation Manager

  ・2023年09月07日

  とても勉強になる記事ですね。Open AIも昨年11月のリリースから生成型AIをどのようにユーザーが使っているのかや、逆にどう悪用されるのかについて状況を見たうえで、ポストトレーニングを行うことでレスポンシブルAIとしての精度を高めていくことを3月ごろにCEOが講演していました。その時点での見解は、アシスタントとしての利活用にとどめるのが望ましいとしています。
  
  一方、記事のようなリスクに関する議論は、米国でも継続的に非常に積極的に行われています。
  
  あくまで個人的な意見ですが、AIに直感や常識を求めるのは困難なので、ある程度は仕方ないと思います。つまり、100％の精度を求める業務には現時点では正直AIは向かないという前提のもと、60％～70％の正確性で対応が可能な業務に適用してみることが重要かと思います。最も大きなリスクは取り組まないこと。取り組まないとどんどん企業も個人も競争力を失っていきます。
• 福本 勲

  アルファコンパス 代表　/ 某日系製造業　チーフエバンジェリスト

  ・2023年09月07日

  説明可能性と公正性はディープラーニングの頃から言われてきたことですよね。
  金融だけでなく、社会インフラやエネルギーなどのライフライン領域では求められることだと思います。