AIしくじり物語 なぜ、AIは「偏見」を抱くのか
コメント
注目のコメント
「なぜ、AIは偏見を抱くのか？」の答えは、
【人間が現実社会で生み出している「偏見」を含んだ結果データを教師データとして取り込み、AIはそのまま素直に学習するからです。】
人間社会の中から生み出される結果データを、教師データとして使う限り、AIも「偏見」を含んだもの、もしくはそれをさらに増長させたものになります。
「偏見」を持ち得るAIを、どのように扱うかについて、私の考えるポイントは以下の３つです。
1)「複数のAIモデル」を構築し、セカンドオピニオン的なチェックも行うこと
2)「急激な社会変化」が起こった際は、AIモデルの利用停止する業務フローを用意しておくこと
3)「AIによる出力」をもとに意思決定や業務を完全自動化するのではなく、AIと人の協業モデルとしての設計をすること
人間がそうであるように、AIは万能なものではなく、不完全で不得意な物がある存在です。そういったキャラクターとしてAIを捉え、人がどのように社会に招き入れるのかが、たくさんのシーンで問われるようになるでしょう。これは、学習データにある、人間の偏見そのもの
なのであるが、しかしそう言う言い訳は通用しない。
と最近の議論ではなって来ている。
じゃあどうしているかと言うと、人間世界では、
法律で禁じたり、倫理教育したりと言う事を
繰り返し行っているが、それでも問題は起こる。
同じようなことをAIに対して行う、と言う事も出来る
であろう。
しかし、大切なのは、AIは不完全だと言う事を
ちゃんと認識すべき事である。
完全な人間がいないのに、何故AIに完全を求めるのか？
私は飛行機の設計をしていた。だから、
全ての系統を問題無く動かす事は、不可能である
事を知っている。
なので、その不完全を許容して、バックアップを
もうけて品質を保証するのである。
だからAIの課題を意識した、AIを含んだ
全体のシステムとしての品質保証を考えるべきである。
そして、この領域は実は日本は最先端なのである。
それは、AI屋では無く品質技術者がこの問題を
考えているからである。
AIを使える様にする答えはそこにある。AIというワードへの期待値が高いように思います。
今時点でサービスとして導入されAIとアピールされているものの全ては、ヒトの思考以上、神のように正解を合理的に持っているという期待値は当てはまりません。
現状のサービスに落ちているAIと呼んでいるものは、時間をかければヒトも計算して導けるけれども、与えられたロジックの範囲の計算をヒトよりも早く、間違いなく計算できるということだと理解してます。
AIとは、どのあたりのロジックまでを呼ぶのかの社会的なコンセンサスは欲しいですね。
でないと、議論がかみ合いません。
Amazonの事例はよく引き合いに出されますが、単にやってみたけど、やっぱりそうなったよねって程度の話で、著しく想定外って話ではないと思います。
AIとうたっているサービスは、むしろ疑ってかかるくらいの方がちょうどいいですね。
