「機械学習は道具。使いこなせるかは利用者次第」――識者が語る、公平性に配慮した機械学習の要点とは
コメント
注目のコメント
この記事と併せて人工知能学会らの声明を併せて読むことをお薦めします。幾つか面白い論点が提示されています。
http://ai-elsi.org/archives/888
まず「実は「公平性とは何か」を機械学習の言葉で数理的に突き詰めていくと、多数のバリエーションがあることがわかります」という点です。興味のある方は神嶌先生がまとめたサーベイ論文をシンポジウムのページからダウンロード出来るので参照してください。
http://ai-elsi.org/archives/898
そのため何をもって「公平」とするかは技術論に先だってまず制度設計の一部として議論される必要があり、そうして合意されたポリシーに基づいて公平性を担保した機械学習の適用が求められると考えます。
この点が声明にも非常に明瞭コンパクトに述べられているので引用します。
「同時に、「何が公平か」については、科学技術や工学だけの問題ではなく、現在の人類社会が何を求めているか、という価値観の問題抜きには語れません。機械学習という「道具」を正しく使うためには、それが「公平性」という私たち人類社会の価値観に対して、どのような影響を与えるかを正しく理解し、そのリスクを評価し、方策について合意しなければならないのです。この点は、私たちだけではなく、機械学習に携わる技術者や利用者、経営者、そして組織や社会の全体が把握し向き合っていく必要があります」
機械学習やAIの応用の話題ではしばしばデーターがより集まれば自ずと改善されるとかトライアンドエラー云々といった意見が散見されますが、個人的にはちょっとナイーブに過ぎる見方だと思っています。継続的なデータやモデルの改善は当然のこととしても技術論だけでは片手落ちであり、声明にあるように「公平性の問題は、技術に何ができるのかと、社会が何を求めるかの両面から粘り強く議論していかなければなりません」と考えます。当たり前すぎるくらいに当たり前の話。
道具を上手く使えるかどうかは、一言で言えば『センス』。
でもセンスって結局『経験値』なので、要は『適切に使う意思』が明確にある人が繰り返し使えばセンスある使い方が出来ます。
何が出来るか分からない、使う目的が定まってないまま使っても、それは経験にはなりにくいので、まずは使用目的を明確にするところから始めれば、自ずと上手く使えるはずですね。利用する人も色々だけども使い方を縛りに縛るのもセンスない。世界観やイメージを絶えず共有して異常値をすぐに把握できて修正させるか、そもそも修正自体を仕組みとしていれるか、運用は無限大と考えたい…
