ChatGPTによる回答をStack Overflowが一時的に禁止 大量のもっともらしいが不正確な回答に対処しきれず
コメント
注目のコメント
話題となっているChatGPT、ただ「大量のもっともらしいが不正確な回答」というのがまさに課題でもあると思う。
人間の正誤の認識や価値観は、経験や情報の蓄積で育まれる。でも、世の中に出回る情報は、正誤が混在していたり、価値観が無意識的に含まれて事実のようになっていたり、分けられていても複数の意見は矛盾せざるをえない。
これらをどう整理していくかは、情報を利活用するために、スキルとしてとても重要だと思っている。
機械は、これらの情報を摂取して学習する。だから悪気なく、間違えるという状態が発生する。そして、それが正しい情報と混ざっているからタチが悪い。
正解データがそもそも存在するようなタイプの情報領域で、その正解データを与えるタイプの機械学習であれば起きにくいが、そもそもそういうタイプではない。
ここ1週間ほどめちゃくちゃ話題になっていて、個人的にもそのすごさに衝撃を受けている。それと併せて、使い方がとても難しいし、社会的な議論にもなっていきそうと感じている領域。たしかに本当もっともらしく見えますね。わからない時はわからないと言ったり、無理な質問には無理矢理答えない。そういった受け応えの積み重ねで「間違うことはないだろう」という先入観になってしまうことも頷けます。
本当に怖いのは、こちらがわからないことを聞いている状態で、間違った情報や考え方をインストールされてしまった時。あたかもこれが正解かのように勘違いしてしまう。
が、これは子供も同じではないだろうか。大人の言うことはいつも正しい、ではないはずですが、そこにいる人が限定的であればあるほど偏ってしまう。
盲目的に信じることとそうでない事、その違いは意識的に考えていきたいものです。こうなりますよね。とはいえ実質的に防ぐ方法はないし（計算量では絶対にコンピュータに勝てない）人間のマンパワーでは手が回らないわけで、今度は「AI による回答」や「明らかに不正確な回答」を判断する AI が誕生し、インターネット上のコンテンツはどんどん取り締まられる方向にいってしまう可能性も。Google なども、怪しい回答は容赦なくシャットアウトしていくことになるのかも。
……うーん、進化の過程と捉えるべきか、ディストピアが近づいているのか。前者だと信じたい 🙏
