今日のオリジナル番組


詳細を確認
どこでも栽培可能!?「農業イノベーション」
本日配信
76Picks
Pick に失敗しました

人気 Picker
話題となっているChatGPT、ただ「大量のもっともらしいが不正確な回答」というのがまさに課題でもあると思う。

人間の正誤の認識や価値観は、経験や情報の蓄積で育まれる。でも、世の中に出回る情報は、正誤が混在していたり、価値観が無意識的に含まれて事実のようになっていたり、分けられていても複数の意見は矛盾せざるをえない。
これらをどう整理していくかは、情報を利活用するために、スキルとしてとても重要だと思っている。

機械は、これらの情報を摂取して学習する。だから悪気なく、間違えるという状態が発生する。そして、それが正しい情報と混ざっているからタチが悪い。
正解データがそもそも存在するようなタイプの情報領域で、その正解データを与えるタイプの機械学習であれば起きにくいが、そもそもそういうタイプではない。

ここ1週間ほどめちゃくちゃ話題になっていて、個人的にもそのすごさに衝撃を受けている。それと併せて、使い方がとても難しいし、社会的な議論にもなっていきそうと感じている領域。
こうなりますよね。とはいえ実質的に防ぐ方法はないし(計算量では絶対にコンピュータに勝てない)人間のマンパワーでは手が回らないわけで、今度は「AI による回答」や「明らかに不正確な回答」を判断する AI が誕生し、インターネット上のコンテンツはどんどん取り締まられる方向にいってしまう可能性も。Google なども、怪しい回答は容赦なくシャットアウトしていくことになるのかも。

……うーん、進化の過程と捉えるべきか、ディストピアが近づいているのか。前者だと信じたい 🙏
やはり最期の正誤判断は、ヒトによりなされる定理はまだ変わりませんね。でも、人間らしさや、得る回答の速さ、などでは入力された値と学習精度がこれからまだまだ蓄積されると、あとは時間によって追いつく可能性は大ですね。そのスピードは指数関数的なので。
人にとっての当たり前がここに付加されると、また世の中変わって行きますね。
「Stack Overflowによると、ChatGPTが生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いるという。」
なるほど。人気だかころ投稿が増えてしまいますし、致し方なさそう。

「このポリシー変更後にChatGPTで生成したと考えられる回答を投稿したユーザーには制裁を課すとしている。」
いろいろと考えさせられるが、多分、間違った情報を与える人間が一番悪いんだろうな。
ChatGPTによる投稿と、人間の投稿の正否の確率の違いはどんなものなのだろう