OpenAIを「限界点に達した」と退社したライケ氏、競合Anthropicで安全チーム結成へ
コメント
注目のコメント
先日からのライケ氏の動向が注目されるほど、生成AIの安全性への懸念が確かなものになっているということなのでしょう。
国家レベルでは、つい先日にEUのAI法案が正式に成立となりましたが、適用は2026年が予定されています。最も動きの早いEUでこのタイムラグがある状態で、少なくとも1年近くは企業の自助努力に負う部分が大きい状況が続くのだと思います。
その観点で、ライケ氏がAnthropicという新しいフィールドで行われていく安全対策は注目度が高いものですし、その分グローバルスタンダードとなる意味合いも強いのだと思います。
OpenAIも安全委員会を立ち上げたようですが、サービス開発のみでなく、開発者の責任として安全利用に向けた対応が各社に求められています。「人間の価値観や倫理観と整合するように設計」を自動化するAIを開発するとも聞こえます。アラインメントは既に人手には負えない規模に達している表れでもあります。
AIをAIが監視する、そんな世界がすぐそこに来ています。Anthropic社はOpenAIからスピンオフした企業ですし、AI研究者の給料が世界で2番目に高い (1番はOpenAI) ようなので自然な流れかなと思いました😌
参照
https://readwrite.com/ai-researcher-salary-eye-watering-pay-of-top-tech-job-revealed/
![アプリをダウンロード](/resources/images/banner-app-download.png)