AIの「弱点」を突き止めるテストを開発した、すごい日本人
コメント
注目のコメント
一昨日のWSJでは「FacebookはAIでヘイトスピーチの大半を削除できると言っているが、現場では数％しかできていないと言っている」と指摘していました。経営学会でも同様の報告はなされています。すごいところに目を付けた(もちろん能力があることが前提)ことはもちろんですが、AIの裾野はまだまだ広大な感じがします。
https://www.wsj.com/articles/facebook-ai-enforce-rules-engineers-doubtful-artificial-intelligence-11634338184?mod=Searchresults_pos9&page=1目の付け所が素晴らしい。
誤認識(エラー)が起きそうなデータを生成してテストするというのは、AI以前からあるアイデアですが、AIに特化して効率的な脆弱性発見を追及した点が他の追随を許さない優位性でしょうね。
少し前に東京海上が業務提携を発表したり、NTTデータが有効性を検証しています。
・Robust IntelligenceとAIシステム開発の品質向上に関する実証実験を完了
https://www.nttdata.com/jp/ja/news/services_info/2021/080601/
特に画像認識のAI開発では欠かせないサービスになるかもしれません。Fairness(AI偏見)の脆弱性発見には特に役立ちそうです。自然言語処理AIでも頑健性チェックできるか気になりました。日本人がアメリカで活躍をしているのを耳にするのは大変嬉しいことです。そして、海外に出て挑戦する若者が増えてほしいとは常々思っていることなので、彼が20代の若者であると聞くと、喜びはさらに倍増。ハーバード大卒、経営者ではなく開発者としてその名を馳せる大柴さんは、これからさらに注目が集まりそうです。技術の生みの親の教授とタッグを組むというのは素晴らしいですし、教授に是非と言わせた魅力もあるのででょう。製品はテスト用ソフトウェアなのでまだ第一段階と言っても良いでしょう。
すでにセコイヤとパートナーを組み、世界企業と仕事を始めるという好スタートを切っているRobust Intelligence。今後は、今のプロフダクトに更なる磨きをかけ、精度の向上に力を入れることで、セキュリティ関連企業には欠かせない“揺るぎない信頼”を獲得することに専念することが重要になってくると思われます。
AIが取り込める日本関連のデータは言語やフォーマットの観点で圧倒的に少ないと言われています。これから黒子としてあらゆるところに存在するAIにおいて日本が遅れを取り戻せるよう、日本への貢献も今から期待したいですね。
