世界最先端のAIシンポジウム AIに求められる説明責任と倫理、AI研究者がシリコンバレーで熱い議論
コメント
注目のコメント
最近流行りだしDARPAでもやっているが、責任と倫理が発生するのはAIによって利益を享受する権利のある人間の方であって、AIにそんなものは発生しないでしょ。
ある程度説明可能なものは作れるかも知れないが、その正しさは証明できないし、そもそも100%人間が理解可能なロジックでやるなら事前にアルゴリズムを"プロ"グラムしておけばいい話なので、昨今期待されているのはそれを超えた（例えば人間が捕捉不可能なほどの特徴量と計算量を使った）AIであって、ポイントがズレていると思う。
法曹界がこれを議論しているのならば、まあ技術がわからないから仕方ないと思ってしまうが、富士通にやられてしまうと、、、、。人間が簡単に理解できるのは、二次元まで。
深層学習は、多次元の世界。説明は困難です。
ただし、どうやってその結果がでたのか、説明してもらわないと、気持ち悪いのも事実。
“あなたはガンです。AIがそう言ってます。どうしてだか、医師の私にもわかりません。” と言われたら、安心して治療が受けられません。
厚生労働省は、AIを用いて診断した場合、その結果は、そのAIシステムを用いた医師が責任を取る、としています。
当分の間は、補助システムとしても、AIの利用は難しいと思います。
