OpenAI、「AI の安全性に対する当社のアプローチ」を説明 「年齢確認オプション検討中」
コメント
選択しているユーザー
これはOpenAIのサービスとしての話ですが、既にMetaのLLaMAをベースとした、端末ローカルで起動するバイナリとカスタマイズのスクリプトが同梱したGPT4ALLというLLMがGitHubで公開されています。
OpenAIがやった秘伝のタレのアライメントを素人が突き崩せるとは思いませんが、下手な鉄砲数打ちゃ当たるってなもんで、そのうち倫理障壁を突破する非常識なモデルがネット上に現れる気がします。
GPT4ALLは名前が紛らわしいですがGPT-3.5と同等世代なのでまだ人間の頭脳で言えば小学生程度なので、演繹的処理にはそう高くない限界がありますから、そんなに脅えるほどのことは無いと思いますが、GPT-4スケールとなると話は別かも知れません。
ただGPT-4が稼働する端末のリソースは単体でも相当膨大なので、おいそれと手を出せるスケールでは無いですが、現在研究が進んできている非Transform系のモデルではGPT-4スケールでも高価なゲーミングPCくらいで稼働できるようになるんじゃないかという話も聞こえてきています。
注目のコメント
原文を読んでみましたが、記事にあるコメントの通り、"大したことは言っていない"というのが率直な感想で、努力した、安全である、求められればオープンにしていく、こうした言葉が並んでいます。
考えてみれば、「GPT4より強力なものは開発は停止せよ」という声明ということは、GPT4を発表したばかりのOpenAIにとっては、むしろ独占的な状態でユーザーからのフィードバックを得られる好都合なタイミングなのかもしれないとも想像してしまいます。
私の読解力不足かも知れませんし、上の想像がなすことかもしれませんが、賛成でも反対でもない、中立的で差し障りのないパフォーマンスのような声明にも見えてしまいます。OpenAI社が直接ユーザーに提供するChatGPTに年齢制限を入れるのは、一企業の対応としてアリですね。
しかし、APIを利用した他企業が、それに準ずるべきかは、賛否両論がありそうです。OpenAI社が、APIの利用ポリシーに年齢制限を入れるか要注目です。(APIで年齢制限を求められても、実質確認するのが困難なので、そんな利用ポリシーを作らないと思いますが)すんごい不思議なんですよね。
ものも使い方次第なところをどうして白黒つけたいのやら。
お茶の世界でも大切なことは目利きと目明けはとても重要と言われてます。
そういうのがあれば何ら怖くない。そしてそないに興味もわかないというか必要に応じて使えばいいだけ。
実社会もネットも、リテラシーは大切ですからね。
情報に右往左往されたくないものです。
