AIによる住宅ローン審査で、マイノリティの申請者に差別も
コメント
選択しているユーザー
【マイノリティたるボラティリティ】
マイノリティを統計にはめ込むのはむずかしいなあと感じました。
AIは感情なく(?)統計や傾向で判断するのであれば非常に機会損失も与える恐れがありますね。
どの分野でもマイノリティは突き抜けた高標準偏差の方が多いと思います。
注目のコメント
過去の差別に関する研究では、黒人に多い名前で求職すると同じようなバックグラウンドでも面接に進む確率が下がるというのがあります。ただ、今回の結果はそんなに単純ではなく、過去に融資したマイノリティのデフォルトが高ければＡＩがそう判断するのは当然でしょう。そもそも審査に人種を入れること自体が問題という気がします。
アルゴリズムのことはよくわかりませんが、単純にデフォルトを下げるのか、収益を最大化するのか、それともマイノリティにチャンスを与えるためにある程度リスクを取るのか、その目的によっても審査項目も分析も異なってくるとすれば、単にAIが悪いと言っている限り問題は解決しないのではと思います。『米国では、住宅ローン審査における人工知能（AI）の活用が進んでいる。
融資機関は、経済状況が似通っている場合でも、白人と比べて有色人種の住宅ローン申請を否認する傾向が強いことが明らかになった。
具体的には、黒人のローン申請者の80%は否認される可能性が高い。また、ラテン系申請者の場合は40%、米国先住民の場合は70%、ローン申請を否認される可能性が高い。』
とありますが、普通に考えると、肌の色や人種を問う審査項目があるとは考えられないこと、AIは過去の返済不能者の様々なデータから、返済できる可能性を割り出しているだけであることを考慮すると、単に似た状況の人が返済不能になっている確率が高いだけなのではないでしょうか。AIと倫理、大事な課題ですね。元々のデータに何らかのバイアスが含まれていると、AIによる分析結果にもバイアスが出てしまうという例だと思います。AIは倫理を持っていないので、人種を特定するようなデータを除いたり、補正するような倫理を教師あり学習で追加する必要があると思います。元来、持家比率が人種間で違うという問題はデータ処理だけでは解決できないので、公的支援を与えるなど他の対応策が求められますね。
