AIモデルのストレステストを行うRobust IntelligenceがシリーズBで約34億円調達
コメント
注目のコメント
現在進行中のLog4j問題と同じように、ミッションクリティカルに使われているAIモデルに重大な落とし穴が有れば、その脆弱性を疲れ利益を奪われたり、意図せずモデルが期待されている答えを返さなくなったりする可能性がある。問題は、一般的なプログラムと違い、AIモデルが人の手で作られるのではなくアルゴリズムによって生成されるため、どこに潜在的課題が潜んでいるのかを見つけるのが難しい。
一つの対処方法としてはモデルのモニタリングによる異常検出だが、それ以前にAIを使ってモデルの弱点を予測して検証するというアイディアは斬新かつ大いに検討されるべきアプローチだと思う。このようなモデルの安全性の評価が法律によって求められる日も近いかもしれない。「言ってることはめっちゃキャッチーだし、AIでのリスク回避したい企業は飛びつきそうだけど、そんなことできるか?」というのが初見の感想。とはいえ並んでる企業が強い……。
「AIモデル」って単語を使っているので、「データ→期待出力」が出来るトレーニングデータと、「データ→予測」を出力するAIがあれば、それに対して色んなテストを走らせてくれるAI、って認識でいいのかな?それなら確かに出来るのかも?
詳しいことはもうちょっと追ってみないと分からないけど、「あんまり学習出来てないデータが来た時にヤバい挙動をする」みたいなのはAIの弱点なので、ここもAIで解決しよう!というのは面白いアプローチだと思う。95年生まれの大柴さんが共同創業のRobust IntelligenceがシリーズB調達!リードはTiger Globalで既存投資家のSequoiaも追加出資してオーバーサブスクライブ、投資家から高い期待がかかっていることがわかる。
過去に伝書鳩TVでも取り上げられている
『AIの「弱点」を突き止めるテストを開発した、すごい日本人』
https://newspicks.com/news/6276491