アマゾンの人材採用AIが「女性を差別した」理由を考えてみる
コメント
注目のコメント
詳細がわかりませんが、教師データに女性が少なかった(もしくはいなかった)だけなのではないでしょうか。活躍している人として取り上げたのが男性ばかり、もしくは比率が高くて属性情報を読み込み判定するようなアルゴリズムだと当然起こるのだと思います。
選考システムをデザインする段階に問題があった可能性もある、と。初めから、どういう人材を求めるか、どんな人材構成にしたいかを仕様に落とし込めていれば、問題は発生しなかったはず。
言うは易し、後からなら何とでも、かな。データの不均衡は調整すればいいだけと記事にありますが、そこに恣意性を入れてしまうと現実と異なる解になります。
結構これは奥が深い分野なので、理由がわかったとしても簡単には治す方法が見つけられないと思います。