AIを追究していくことは、畢竟、人間自体を追究していくことに通じますね。AIのことを考えれば考える程、人間とは何かに立ち戻る必要がある。この記事にある倫理観の話を読んでいて、改めてそう思いました。

「人間というのは自分が関係ない（搭乗していない）と、とても倫理観が高い。しかし、自分が乗っていると、突然倫理観が下がり、さらに子どもを乗せていると、もっと倫理観が下がるのです。」

ぼくがメディアラボにいたころだからもう15年も前のことですが、今後の最大課題はというスポンサーからの質問にパティ・マース教授が「倫理」と即答したことを強く覚えています。AIもネットでさえも開発途上だったのに、必然的に技術は進化し普及すると展望していた。当時はまだリアリティーがなかった。でもそれがいよいよ現実となり、みんながうろたえ始めた。Joiのような透視眼と言葉を持つ人のメッセージが大事になっています。

僕も3月に日経にコラムを書いています。↓

「AIが取締役会で発言する未来」
http://blog.globis.co.jp/hori/2016/04/ai-4b57.html

他人事だと倫理観が高いって意外とどうしようもない。。

刺激的。”すでに香港のファンドで人工知能の取締役がいて、たぶん2025年ぐらいには、ほとんどの上場企業には人工知能の役員がいる”
そう思います。すべてが取って代わるとは思いませんが人間の取締役の数は制限されるのかもしれません。

倫理・哲学をどう人工知能に教え込むかの研究が進められているそう。
人間に組み込むよりラクかも。少なくとも監査役の一人には早々になる気がする。

全部読みましたが、表題だけに関して反論すると、それは日本企業ではあり得ません。どんなに間違っていても社長のお気に入りの可愛いヤツだけが出世し、正しくても小賢しくて可愛くないヤツは絶対に出世しないのですから、正論を言うAIは取締役にはなりません。　え、じゃあ社長と同じ思考回路にAIを設計する？　・・（笑）

人工知能のポイントを考えてみると下記。

１）データをどう蓄積するか（蓄積したデータをどう使うか）
ここまで人工知能は考えてくれるほど頭は良くない、あくまで過去のアーカイブがあってこそ。だからこそ、何のためにデータを蓄積して、どう活用するのかはあくまで人間の仕事。

２）人工知能をどうやってトレーニングするか
「相互に作用することにより、理解できるけれど、バラバラにしたらわからないもの」を解き明かすことができなけば、結局その後の発展は止まるので、結局ハンドリングするためには人間が理解しなければならないと考えます。

結局人工知能は万能ではなく、過去の蓄積された大量のナレッジから法則性を導き出すまでが限界。突飛押しもないことはできなく、昨日のセミナーで夏野さんもおっしゃっていましたが、AIと人間の違いは「リスクが取れるか、取れないか」なので、人間の創造性が今よりも重要視させる将来になると予想しています。

突拍子もないタイトルだな、と思ったら既に香港のファンドで実施してるんですね。なんとすごい。
倫理観の「トロッコ問題」を見て、「これからの正義を考えよう」を思い出してしまいました。倫理や哲学は時代や文化によって確かに異なる。ある時は正義でもある時は悪になってしまいます。うーん。難しい。

AIや自動運転でよく語られる「トロッコ問題（trolley problem）」が詳しく触れられいますので、必読です。
AIがあらゆるサービスに実装されるか否かは、AIが倫理観とどう向き合えるか、AIの暴走をどういう形で止めるかだと思います。