プリンストン大がAIの偏見を発見するための新ツールを開発！
コメント
注目のコメント
近年のAI・機械学習系の取り組みにおいて、データバイアスの問題は非常に大きな課題の一つです。
有名な例で言えば、Amazonが採用時の書類選考をAIで自動化しようとした取り組みがあります。結果的には、当時のAmazonに男性社員が多かったこともあり、男性優遇のAIができてしまいました。AIとしては男性社員のほうが多いのだから男性優先で、と考えてしまったということです。
上記の場合であれば、事前に学習用データの男女比を揃える、インプットから性別情報を除く、など対応方法があります。しかし、画像データのバイアス除去はこれまで人間ではなかなか難しかったこともあり、この技術は非常に興味深いと言えます。
