AIシステムの品質管理方法をまとめたガイドラインを公開
コメント
注目のコメント
AIを前提とした、バリデート出来ないシステムの品質管理というテーマとして興味深く拝見。理屈としては、方法論はベリフィケーション(設計検証、検証と言っているが要は仕様達成状況の確認行為)しか出来ないはずで、実際「プロセス管理や数値評価によってこれらを具体的に確認する」とある。
実際にはゲートDRでやることが変わらないので人によっては変化を感じにくいだろうが、根本的にはバリデート(事前の妥当性確認)ができないので、いわゆる想定外を事前に考えることが難しくなり、問題が起きてからしか対応できなくなる企業が続出するはず(なぜその結果になるかはAIのみぞ知るなので当然と言えば当然)。
品質管理だけでも難しいが、個人的には品質保証におけるAIの取り扱いは、倫理や論理を伴わない説明という要素がついて回るからさらにやっかいだ。
