ＡＩ規制、ウィキペディア型モデル想定＝チャットＧＰＴ開発企業
コメント
注目のコメント
OpenAIのブログにソースがありますね。
https://openai.com/blog/governance-of-superintelligence
ChatGPTも一部借りて要約してみました。
----------
「超知能のガバナンス」
・10年以内に多くの分野で専門家のスキルレベルをAIが超える可能性あり。潜在的利点とリスクから、超知能は人類史上最強。そのリスクは原子力や合成生物学と似ている。
・リスク管理に３つの考えを示す。
①主要な開発者の間で調整が必要。世界中の政府がプロジェクトを立ち上げ、AI能力の成長率が一定速度に制限されるべき。
②最終的には国際原子力機関(IEAE)のような公的機関が必要。安全基準への準拠、システムの検査や監査、展開の制限などを担当すべき。
③超知能を安全にする技術力が必要だが、これは未解決課題。
・一方で、企業やオープンソースが、制限以下のAIモデルを規制（ライセンスや監査など）なしで開発できることも重要である。
・強力なAIのガバナンスには、強力な公的監視が必要。その範囲とデフォルト動作は民主的に決定すべき。
・OpenAIは、超知能の創造を止めることが直感的に危険で困難であると考えている。そのため、超知能を安全に開発することが重要である。
----------
まずは各国政府の合意形成で、最終的には国際機関で規制するという考えです。これはG7サミットの「広島プロセス」を受けての賛同発言と思います。
また、オープンソースの自由な研究開発にも配慮しているのは上手いです。単に理解不足なのかもしれませんが、「ウィキペディア型」の規制がどのようなものを指しているのか、私自身は、そのイメージが湧ききっていないところです。
すでにネット上のデータをある程度学習し、情報の生成が可能なChatGPTなどのモデルやサービスが公開されている中で、データの修正を民意を集めながら同時並行で正していくということなのでしょうか。
規制の焦点は、データの質というよりも、個人情報漏洩や著作権侵害などの権利保護がメインにあり、これがウィキペディア型で解決されるのか、民意に任せて大丈夫なのか、やや問題と解決策にズレがあるような感じがしなくもありません。
また別の観点として思うのは、こうした規制という重要テーマについて、開発元であるOpenAIが自ら発表せざるを得ない今の状況です。
サービス提供中であるOpenAIとしては一刻も早く対策を打たなければならない状況のはずで、今般の発表は内容はともかく讃えられるべきだと思う一方、「作った者がルールも作る」のような状況に陥っている点には大きな心配があり、行政の遅れがここでも垣間見えます。
AIを巡る規制のあり方、作られ方、施行のされ方に関する議論は、今後まとまった動きになっていくのでしょうか。オープンかつ透明なプロセスで規制を作っていくことは、各国の政治家と"有識者"だけで決めるよりは、より有用で公平な中身になりそうなのは間違い無いかなと思います。
加えて、急速に発達している技術なので、この方法の方が時代の流れに沿ったものが作りやすいのは確かだし、この分野は専門家でも全ての仕組みを完全に理解することは困難なので、技術面からみても参加者が多い方がよさそうかなと。
あと、オープンソースのソフトウェアみたいに、変な内容入れようとしたら常に大勢の人の目があるので、すぐに指摘・修正もされますよね。(仮に各国トップが決めたとして、そこに変な内容が入っていても修正に大変時間がかかるか修正が行われないかもなので🙄)
ただ、ウィキやソフトウェアと違って、｢規制｣ なので、文化の違い等をどう落とし込むのか、オープンソース形式のものがきちんと遵守される仕組にできるのか？といった課題はありそうかなと思いました🤔
