• 特集
  • 動画
  • トピックス
  • 学び
プレミアムを無料で体験

OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」

ITmedia
654
Picks
このまま本文を読む
本文を読む

コメント


注目のコメント

  • 中瀬 幸子
    badge
    Avintonジャパン㈱ 代表取締役・大学講師・生成AI 活用普及協会 協議員

    OpenAI製品の安全性担保を担当していたライケ氏は「超知能(AGI)の構築は本質的に危険な取り組み」であり、「OpenAIは人類全体に大きな責任を担っている」が

    「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らす。

    最新のテクノロジー開発を進める上で、安全性を優先することができないのは人間の本能的なもの。

    ましてや世界のテクノロジー開発競争は国の安全確保にも繋がっていますから。他国とのテクノロジー競争に勝つことは、軍事安全、国家主権の維持、テロ対策に直結しています。

    安全性を優先できる理性の高い人類なら、原爆は開発されていないと思います…


  • 和田 崇
    badge
    ㍿Laboro.AI 執行役員/マーケティング部長

    OpenAIが展開するChatGPTをはじめとした様々なサービスは、完璧な製品として仕上がっているものではなく、ある意味で実験的な状態なまま世界中に広がっていることは事実だと感じます。

    ハルシネーションや情報操作、著作権の問題、プライバシー侵害、情報流出、データバイアスによる人権問題など、これらの課題は有効な解決策が施されないまま市場浸透が進んでしまっています。(AIという技術の特性上、完全な解決も難しい)

    これまでの技術革新を顧みれば、新しい技術を受け入れるには、リスクを受け入れることもある程度は必要なのかもしれませんが、リスクが上回る状況に陥ることは回避すべきに間違いありません。

    ライケ氏がこうしたリスク回避に向けて営利追及派との闘いに挑み、歯止めとなっていたとすれば、今般の同氏の「限界」退職は、OpenAIだけでなく我々への影響も大きなものになります。

    OpenAIの今後のリスク対策方針にはより注視が必要な状況だと感じます。


  • 山浦 真由子
    badge
    株式会社エジソンエーアイ 代表取締役

    「安全確保が後回しになっている」って少なくとも3年前から研究幹部が同じことを言って辞めているので、今更ですね


アプリをダウンロード

NewsPicks について

SNSアカウント


関連サービス


法人・団体向けサービス


その他


© Uzabase, Inc

マイニュースに代わり
フォローを今後利用しますか