米国防省も依頼するAI検査サービス、「生成AI」のリスクを診断
コメント
注目のコメント
AI診断のスタートアップ「Robust Intelligence」が生成AIにも対応とのこと。
この手のAI診断は、日本企業の意識が追い付かず苦労している印象がありました。AI規制は間違いなく追い風でしょう。
従来のAIだと、学習データに偽情報を紛れ込ませたり、特殊な組み合わせのデータを与えて誤判断を招く等、かなり高度なスキルが必要でした。しかし、生成AIだと、簡単にプロンプトインジェクションできるので、テストが大変になりそうです。だから、AI診断サービスは今後伸びる予感がします。生成AIのリスク診断サービスが国内で利用できるようになったようです！
生成AIの開発には数十〜数百億円単位のコストと膨大な時間がかかります。一方で出力されるものを厳密に想定することは現状ほぼ不可能です。
例えば自社で社員の属性をもとに配属を決定する人事AIを開発したとして、そのAIが人種や出身、名前などといった情報をもとに差別的な配属を行ったら…
そのようなコストに見合わないリスクが企業のAI導入に対する大きな障壁として存在します。
専門性を持った第三者がそのリスクを判別するということは、ある意味でAIというリソースに対する人事的判断を委託するという事としても捉えられます。今後成長する分野の一つとして注目しておくべきでしょう。こういった診断サービスを利用する企業は、学習モデルがアップデートされるたびに診断するんですかね？
まだまだ成長していくでしょうし、スピード感もったサービス提供をするためにも、運用で回避できるのであれば回避していきたいですね。
