マスク氏ら、ＡＩ開発の一時停止訴え 「社会にリスク」
コメント
選択しているユーザー
記事中にある『「チャットＧＰＴ」の最新版言語モデル「ＧＰＴ─４」に言及し、これを上回るシステムを対象にすべき』という点に注目しました。システム運用の現実とAIの進化のスピードが速く、悪用の懸念とともにAI自身の“暴走”まで想定した倫理面を検討する必要があるのかもしれません。私は2017年に日本の人工知能学会が策定した倫理指針にある「人工知能が社会の構成員となるためには…」と書いたくだりに注目しました。
http://ai-elsi.org/archives/471
AIに倫理遵守を求める、そういった時期に近付いているのかもしれません。
注目のコメント
当局の介入への言及がありますが、現に違法なことが行われているわけでもないので、介入する理屈が立たないでしょう。既存の法的規制の枠組で解決するのは難しいので、有力なプレイヤーによる共同自主規制のようなソフトロー的枠組で対処するしかないように思いますが、それだと抜け駆けを完全に防ぐことは無理ですね。
望ましいルール作り、ルールの実効性を担保する枠組作りなどを今すぐ始めるべきということだと思うのですが、これまた難易度の高いプロジェクトですね。非常に興味深いです。「マスク氏ら」というのが、他に誰が入っているかというと、スティーブ・ウォズニアック氏が入っていますね。
おおむね、AI関係の経営者や研究者が多いです。といっても、「AI関係」というのは、今や自動運転、画像認識、ロボティクス、製薬、他にも多岐に渡ります。
この声明で懸念されているのは汎用AI、いわゆるAGIの成立で、AIの成長が昨年から予想以上に速いので、いったん、6か月間、AIの学習を停止させよう、という呼びかけです。
「米国で停止してもその間に中国がAIの開発を進めるだけではないか」という反論も出ています。
https://futureoflife.org/open-letter/pause-giant-ai-experiments/数週間前にイーロン・マスクがAIの専門家に接触していると報道されたのはこの件でしょうかね。自分も設立に関わったOpen AIの凄さと影響力とスピードを自ら止めるとは。
