Amazonで、履歴書を審査するAIが、女性の応募者を不当に低く評価していたということがあったとのこと。

日本でもAIを利活用する企業が増えてきています。
すでにリクルートでも大きな問題になりましたが、企業側の知識やスキル、倫理観をさらに高める必要があります。

AIを利活用するものとして、テクノロジー自体が現在進行形で進化していることに加え、それを正しく利活用する原則や理論をアップデートし続けることが求められますが、それ以上に倫理観を持つことが、今まで以上に大切になっています。

ここで書かれている、機械学習＝「教師あり学習」である。
　正直いうと、教師あり学習には致命的な問題がある。それはまず、ビジネスや顧客に求められるのは、未来の予測とそれに基づく未来における正しい判断である。
　しかし、この未来の予測や正しい判断のために使えるのは、過去のデータである。ここに原理的な問題が生まれる。過去のデータで未来を予測できるか。過去のデータを使って、未来に正しい判断が出来るか。
　この問いの答は明らかである。ノーである。
　したがって、AIの開発者は、いつも恐れている。顧客から「過去のデータを使って、未来の予測や判断が本当に正しくできるのですか」という素朴な疑問が来ることである。
　この意味で、今のほぼすべてのAIは、この原理的で致命的な問題を抱えているとおもってよい。
　これを越えることは、最も重要なデータ/AI活用の課題である。
　実は、これは可能であるし、既に、そのようなAIの適用も進めている。
　ただし、発想を相当変えなければいけない。これの概要については、以下に記載したので、興味ある人は読んでください。
https://comemo.nikkei.com/n/n45e31590f319

データにまつわるリテラシーはプライバシーの観点を含めより求められていく領域です。意味のあるデータを目的に合わせて最小限で集めることがマーケティング責任者には求められるので、技術的な理解だけでなく、法律や社会変化など複数の要素から最適解を出していく事が必要になります。

失敗事例が2例掲載されている、とてもよい記事です。

成功事例を掲載した記事は多いですが、個別の成功要素が多い成功事例からは、ほとんど学べません。

しかし、失敗事例は普遍的な要素を含むので、そこから学べます。

AIは万能ではありません、人の育成と同様、育て方（学習のさせ方）に大きく依存します。

そして「思うように学習させる」ことは人間以上に難しいです。

※個人的な見解であり、所属する会社、組織とは全く関係ありません

人間が判断すると偏りが生じるから、AIを使って公平に判断しよう、という趣旨なのでAIがそう判断したというのは尊重すべきでないかなー。

そもそも公平でない人間が、AIの判断に偏りがあると判断することが自己矛盾な気がする。

本当になんのバイアスもなく選ぶとしたら、完全にランダムに選ぶぐらいしかないのでは？