人が介在する人工知能の設計がやはり重要である理由
コメント
注目のコメント
＞他の先進的テクノロジーと同様、AIは組織に導入するだけで思い通りの成果をもたらしてくれるわけではない。
そう思います。
なので、業務プロセスにAIが組み込まれた場合に、プロセス全体としての有効性（リスクが受容できる程度に低いこと）をどうやって証明するかは、AIを導入したプロセスのオーナーと、有効性を評価する側と、各々に課せられる命題だと思います。
私は両方になり得る立場ですが、まずは内部統制評価業務そのものにAIを組み込んで、そのAIの有効性を同時に証明したいですね。それが出来れば、現場部署でAIを使った際にも対応できるので。AI開発者としては大事な戒めですね。
｜「大きな赤色のボタン」を押して起動するだけで、
｜提示した疑問に対して誰もが決定的な答えだと自らを
｜納得させてしまいたくなるような不透明な結果を
｜もたらすものである必要はない。
人の統制の下におくために、
｜AIアプリケーションのユーザーインターフェースに
｜「スライダー」を導入するのは極めて効率的なアプローチ
はとても感銘を受けました。
いくつかのAI活用では、パラメータを変化させて、その挙動を調べることをしていますが、スライダーが実装できれば人の理解は段違いに進みそうです。
将棋AIで、最善手以外の手をいくも調べてみるようなものです。それがプロ棋士の理解を深め、実力アップにつながっていることを思い出しました。「人が介在する」人工知能の設計が重要である理由が説明されています。
「人間は、顧客や従業員により良い世界をもたらす上での力となるアイデアやアプローチを生み出して具現化していくために、AIベースのツールを使いこなせるようになる必要がある」
