AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告

コメント

選択しているユーザー

• 勝又 康仁

  エン・ジャパン（株） 教育評価サービス責任者 兼 コンサルタント

  ・2023年06月14日

  ポスト・トゥルースからロスト・トゥルースへ。。

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年06月15日

  AIは偏見を学習するだけで無く、偏見を強化することは以前から懸念されてきました。機械学習の評価基準、例えばAUCは偏りを強化する性質を持ちます。だから、偏見評価尺度を定め、評価関数にペナルティとして組み込む手法も開発されています。
  
  心配なのは以下の指摘です。
  「結果として既に十分なトレーニングデータを得た企業や人間が生成したコンテンツを大規模に管理できる企業が一方的に有利になる」
  
  すでに画像AIではAdobe Fireflyが自社ストック画像のみで学習して知財問題をクリアしています。コード生成AIではAmazon Code Whisperがやはり自社コードとオープンソースのみで学習しています。最後はやはり資本力となると、新たなAI規制が要望されるかもしれませんね。