ホロコースト改ざんの恐れ 生成ＡＩに警鐘―ユネスコ
コメント
注目のコメント
遠くない将来、すべての知識をAIを介して知るようになる時代が来そうです。
今はハルシネーションがあると皆疑っていますが、いずれ信頼性は向上します。その上で、悪意を持ってAIを騙す攻撃を受けて知識が書き換えられると、改竄に気づきにくいでしょう。
時代の支配者が延々と歴史を改竄してきました。改竄の対象が書物からAIに移ることは認識しておきたいです。次に来る単語を予測すること（Next Token Prediction）が基礎になっているTransformerベースの現代のLLMでは、ハルシネーションは避けられないことでもあり、こうした歴史的事実が歪んで流布されてしまうことはたしかにリスキーなのだと思います。
データや出力での技術的な工夫に向けた取り組みも行われていますし、「生成AIの出力は誤りを含む…」的な注意書き、画像の場合は電子透かしなども進みつつありますが、恐らくこれでも十分ではないでしょう。
本質的には、人のSNS投稿の場合もそうですが、システム側の工夫で留めるのではなく、その情報を悪意を持って拡散させないための人に対する仕組みに必要性があるのかもしれません。そもそもAI開発者ならこんなこと想定内でしょう。
ちなみに歴史を振りかえると、茶の湯だけでいうなら、八割以上がマユツバモノといわれる世界。
本物がなさすぎて、価格はもう心肺停止レベルになってるプライシングをみると、AIの未来もそれとなくわかる。
とにかくマユツバモノが多い世界では自身の目利きが必要です。
