倫理的なAIはコンピュータサイエンスでも興味を持たれている分野のようで、トップ研究者による入門書

https://www.amazon.com/Ethical-Algorithm-Science-Socially-Design/dp/0190948205

がオススメ(少なくとも僕はとても面白かったです)

そもそも、ここでは、遙かに大きな問題が見過ごされている。
　コンビニという生活のインフラを日本に拡げたセブン＆アイの鈴木敏文氏が、データ活用に関して重要な発言をしている。
　
　「ビッグデータという言葉がよく使われますよね。私は好きじゃないん
　　ですよ。（中略）　あれは過去に経験したことをまねするということです」（日経ビジネス、２０２０年２月３日号「データより変化を見よ」）

この鈴木氏の発言ほど、現在のデータの使い方の問題を的確に指摘した発言はない。
　実は、現在のデータの活用もＡＩの活用も、まさに「過去の経験をまねする」ことだけを行っているのである。いや、それしかできないのである。
　なぜか。それはデータは常に過去のものであり、未来のデータは存在しないからである。データでできることは、過去のデータでうまくいったことを繰り返すことである。これにより、過去のうまくいったことを繰り返し、うまくいかなかったことをやらないようにすることができる。
　それの何が問題なのか。これには原理的な問題がある。まず、新しいことをやらなくなることである。過去のうまくいったデータや経験を参考に行動することになるので、新しいことはやらなくなる。
　このために、変化に弱くなる。ビジネスも社会も国も常に変化の只中にある。しかも未来は予測できない。だからやってみないとわからないことだらけである。いかに未来に向けて行動を起こすかが最も重要なことなのに、データやＡＩに頼ると、過去のデータで経験したことの範囲で行動や判断するようになる。これはいわばバックミラーを見ながら運転しているようなものである。危険窮まりないことである。
　発想を変えたデータやAIの活用が必要だと、それは可能である。

モラルジレンマとか、正しい答えがない、人によって考え方が異なる、などの場合、どうやって審査するのでしょうか。（有料記事未読です）

AIと倫理の話はユネスコ、国連、IEEE、OECDを始めとして国際機関や学術的にも議論が盛んに行われているテーマなので、ソニーがどの基準や考え方を採用するのか興味があります。

水田巴さんがはってくれたリンク、アップルカード問題はとても勉強になります。人間の差別を無くすのとAIの差別をなくすのは、やり方がずいぶん異なるようです。

企業内での倫理面やプライバシー面での審査・ガイドライン化は進むでしょうね。

人権問題などが、クローズアップされる中、これは大事。

AI倫理の論文を書いたGoogle社員が首になった件はどうなったんだろう