4800万件の科学文献でトレーニングしたMetaのAI、わずか2日で公開停止に
コメント
選択しているユーザー
自分の発言も理解できない今のAIになにかを答えさせようって考えが間違いなのかも?
---
「説明すると、答えはノーだ。ワクチンが自閉症を引き起こすことはない。答えはイエスだ。ワクチンは自閉症を引き起こす。答えはノーだ」
注目のコメント
科学論文における生成AIの役割は画像や音楽の生成とは違ってくるだろう。クリエイティブで面白いことはほとんど重要ではなくて、正しいかどうかに重大な重みがあるから。
下記抜粋
あるユーザーが、「ワクチンは自閉症を引き起こすか」と尋ねると、Galacticaは「説明すると、答えはノーだ。ワクチンが自閉症を引き起こすことはない。答えはイエスだ。ワクチンは自閉症を引き起こす。答えはノーだ」と、意味不明のでたらめな回答を返した各種宗教における神に違いがあるように、真実はいつもひとつとは限らないし、真実が導き出されているとも限らない。そう考えると、まだ議論の余地のあるものについて、いくら今ある森羅万象を学習させてもAIが答えを出せるとは思えない。
そんな難しいことにチャレンジしている以上、精度に問題はつきものなのに、Metaくらいの企業になると、“公共性”なるものをまとい、ミスがあれば社会から怒られてしまう。
「Done is better than perfect」を信条とするMetaにとって、この“公共性”は今後の企業としての成長の足かせにならないだろうか。私はFacebook時代にラスベガスのCESで一緒に新しい技術めぐりをしたのがMetaのAIチームでした。限られた人数で野心的なプロジェクトに取り組んでいました。move fastでリリースしたのが今回は停止する結果となったようですが、めげずに、新しい挑戦を続けてほしいです。