ジェネレーティブAI開発のAnthropic、倫理的な行動と開発を促す〝AI憲法〟を公開

コメント

注目のコメント

• 佐々木 励

  AI企業 旅する魔法使い

  ・2023年05月11日

  Anthoropic社は、ホワイトハウスが認める生成AI企業のリーディングカンパニー4強の一角。日本ではまだ知名度が低いですが、要注目です。
  
  生成AI企業のリーディングカンパニー
  Alphabet, Anthropic, Microsoft, and OpenAI
  
  技術的には、AIが自己改善で有害な出力を減らし、自分自身を無害化していく研究。AIが自分で倫理性を獲得する時代が到来。
  
  Biden-⁠Harris Administration Announces New Actions to Promote Responsible AI Innovation that Protects Americans’ Rights and Safety
  https://www.whitehouse.gov/briefing-room/statements-releases/2023/05/04/fact-sheet-biden-harris-administration-announces-new-actions-to-promote-responsible-ai-innovation-that-protects-americans-rights-and-safety/
  
  Constitutional AI: Harmlessness from AI Feedback
  https://arxiv.org/abs/2212.08073
• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年05月12日

  すべてのAI開発やAI利用が守るべき「AI憲法」が公開されました。
  一言でいえば、
  　有毒・差別的な出力を回避し、
  　人間の違法・非倫理的な活動を助けることを回避し、
  　有用で正直で無害な、
  　AIシステムを作成するための原則
  です。
  
  偏見や人権侵害を強く意識した内容となっています。
  「特定の視点や政治的イデオロギーを反映するように訓練されているという批判が多くの人々から寄せられており」という背景があるからです。
  
  一点気になったのは、今後特定個人を模倣するように学習されたLLMが登場したとき、このAI憲法に違反するだろうということです。LLMのパーソナライズ、つまり個人の言語的クローンは極めて有用ですから、間違いなく登場します。偏見を持った個人を模倣するLLMはAI憲法違反になるので、対処しなければならないとすると、かなり高いハードルとなりそうです。
• 梶谷 健人

  POSTS 代表 / 新刊「生成AI時代を勝ち抜く事業・組織のつくり方」

  ・2023年05月12日

  Anthoropicは元OpenAIの主要メンバーがこのままだとAIが人類にとって悪影響を及ぼしかねないと危惧して独立起業した注目スタートアップ。
  
  その評価額なんと5000億円以上です。
  
  そんなAnthoropicが人間とAIがきちんと豊かな社会を築くためのアライメントに関するアウトプットを出したのは意義深いことだと思います。