Facebook、顔認識AIが黒人の映る動画に「霊長類」とタグ付けしてしまい謝罪
コメント
注目のコメント
このリコメンドは失礼極まりないです。
いっそのこと、白人だろうが、黒人だろうが、ゴリラだろうが、すべて「霊長類」に分類させておけばこういうものですって言えますw
本来ヒトも「霊長類」ですし。白人のことを「霊長類」と判断しても、「AIもまだまだだな」と笑って流せても、それが黒人だと「失礼極まりない」という話になる。
たとえ黒人の方であっても、「所詮AIだな」と笑って、流せるくらい差別がなくなるといいなと思いました。データのラベル付けは、教師あり機械学習で多くの手作業を必要とするタスクです。
モデルの結果は、トレーニングフェーズでフィードするラベルによって異なってくるのが通例ですが、どこかのステップで相応しくないステップを経た可能性があります。
いずれにしても、機械学習アルゴリズム(またはAI)は完璧とは言えませんので、機能を育てる過程で人が介在する必要があることを忘れてはいけません。