新着Pick
103Picks
Pick に失敗しました

人気 Picker
「偏見」を生むのはコードではなくデータですねぇ

ヒトも同じです

そして偏っているかどうか、その偏りを測る基準点と容認可不可の偏差値境界を決めるのもヒトです、多くの場合、その時点で「majority」に属する

ご参考
https://newspicks.com/news/5046698?invoker=np_urlshare_uid1506052&utm_source=newspicks&utm_medium=urlshare&utm_campaign=np_urlshare
AIによる美人コンテストが物議を醸したのも記憶に新しい。
https://beautytech.jp/n/nabb469fb826c

何かを判定するに当たって人がやってもAIがやってもバイアスはかかっているところ、後者が騒がれるのはスケーラビリティがあり、企画としてではなくインフラとして世の中に組み込まれてしまいうること、固定化してしまいそうなイメージがあること、バイアスを取り払うチャンスとも捉えられることなどが混在してのことだと思います。
理想を言えば、例えば面接官の採用面接の結果の偏りをAIが指摘して補正したりといった、バイアス補正のツールにもなりえる。
古くはクレジットのスクアリングなんかは人がやるよりずっとフェアである可能性が高い。(スコアの背景となる所得自体の偏りは別問題。)
バイアス問題を真剣に論じることは、AIの危険性でなく可能性を考えるきっかけでもあると思います。
データそのものに、バイアスがかかっているのが問題の根源である。人種偏見のデータ項目を教師データから除くクレンジングが最も重要であろう。即ち、個人的の属性を除く事である。

なので、データやAIが悪いのではなく、偏った、バイアスのデータしか無い事が問題である。
Amazonの顔認識に関しては公共の利益から考えた際に、釣り合わないというのが本音だと思います。データに関する議論で、公共と民間をごちゃ混ぜにして一まとめにデータ活用と議論される事がありますが、厳密には双方データの利用目的と対象が異なるため分けて議論をしていく方が良いと思います。

偏ったデータしか集まっていないのは、あくまで特定の企業が営利目的で収集しているわけであり、それが公と言う不特定多数にデータが開かれた際にバイアスという形で浮き彫りになります。

一言でいえば、データを活用してユーザーの利便性を追求していく事が、必ずしも公共の利益と一致するわけではないという事です。
Amazon.com, Inc.(アマゾン・ドット・コム・インク)は、アメリカ合衆国・ワシントン州シアトルに本拠を構えるECサイト、Webサービス会社である。アレクサ・インターネット、A9.com、Internet Movie Database(IMDb)などを保有している。アメリカ合衆国の主要なIT企業で、GAFA、またFAANGのひとつである。 ウィキペディア
時価総額
171 兆円

業績

IBM(アイビーエム、正式社名: International Business Machines Corporation)は、民間法人や公的機関を対象とするコンピュータ関連製品およびサービスを提供する企業である。本社はアメリカ合衆国ニューヨーク州アーモンクに所在する。世界170カ国以上で事業を展開している。 ウィキペディア
時価総額
12.0 兆円

業績