新着Pick
NewsPicks編集部

この記事は有料会員限定の記事となります。

163Picks
シェアする
Pick
Pick に失敗しました

人気 Picker
昨日、今日と読んで分かったのは、人工知能万能論、人工知能脅威論に反論するために、ある意味過剰に保守的に発言されているのだろうなぁということ。
勿論、人間が設計した以上のことができないのは当然なのですが、やはり書き方的に、あらゆるミスについても人間が意図的に設計したことであるかのように読めてしまうのが、違和感があります。例えば、スマホアプリのバグは、意図せずして入ってしまうわけですが、ここでの話し方を踏襲すると、「スマホアプリのバグも背後に人がいるので、人が設計したことになります」的になってしまいます。
ただ、これくらいで書いておかないと、人間の手の届かないところで勝手に進化する知能、のようなイメージを持たれてしまうからでしょうね。

アルファ碁のポイントは、多人数の頭脳を集約させる枠組みであるというのは、とても分かりやすいと思いました。将棋や囲碁の次の一手を合議で決定する、団体戦とか見てみたいかも。
うーん、違和感。昨日の記事でコメントした(牧野さんも同様なコメントされている)が、目的を目指す中で「何をしてはいけない・勝手にしてはいけない」の設定がキーだと思う。加えて、特徴量を抽出するために、大量のデータを読み込ませるので、外部から与えられるデータに依存する。ここで「こういうデータは無視」というのはプログラムに書くことも出来るだろうが、やはりルールベースなのか、自分でデータを読み混みながらルールを構築していくのは、根本的に違うように思うのだが…囲碁の例であれば、機械同士で対戦しながら、評価関数の改善が行われていたという部分がある。もちろん、そうするような仕組みを人間が設計したと表現できるが、改善自体を勝手にやるというのは、個人的には大きな違いだと思う。
専門家ではないので間違えているかもしれないが、上記のような解釈はそこまで一般論と離れていないと思う。せっかく専門的な知見がある方の対談で、そのなかで一般論が違うと伝えられるなかでは、どういった部分が一般論で間違えているのかなどについて、もう少し丁寧な説明があると嬉しかった。
https://newspicks.com/news/1804878
今回も目から鱗。矢野氏はAIによる機械学習(ディープラーニング)は存在しないと喝破してます。
アルファ碁がミスを犯した理由も、「すべて人間が設計したことで、設計したこと以外の動きは一切ない」と言い切る矢野氏。「AIは人間のワザであり、問題へアプローチする方法論です」(矢野氏)。AIへの理解が進む対談です。
矢野さんのAIの責任論は極めて整理されていてわかりやすいです。特に自動運転を代表とした責任論は、テスラに対する加熱した期待とは別に、「元のシステムを作った人だけでなく、指揮をして投入する人、使う人の判断」を冷静に整理、法の整備が必要だなと感じました。
AI擬人化論が行き過ぎなことは同意ですが、「人間が作ったものなので、従ってコントロール可能」というのは、特に疑問がある人を説得する理屈としては弱いと感じました。
ただ、自ら進化し人間を脅かす存在が絶対に出てこないか、という問いには「絶対にない」と言い切れる人はおらず、色々言っても「今の延長線上にはない」としか答えようがないんだと思いますし、どこかでイノベーションが起きて出てきてしまった時に「そんなはずは。。。」と言われる類のものなんでしょう。ただ、それを過度に恐れても、どうせ止めようがないので、本当にそういう脅威が出てきたときに世界として対処を考えていくしかないんでしょうね。
そういう中ではAI=道具という捉え方は正しく、製造物責任としてメーカーには安全なものを作る義務が、利用する人はそれを適切に利用する義務を負っており、どちらかに責任が帰属するというのはその通りと思います
AIに対する新しい視点をいただける素晴らしい連載です。
▼学びのメモ
・AIは自己学習していると捉えるより、目的の最大化のために書かれたことをもとに判断している
・AIのミスは、突き詰めると人間のミス
・AIは集合知を活かして、未知な問題にシステマティックに取り組むもの
・専門性に依存していた仕事を、組織化するための道具がAI

AIを道具として活用できるようにするためには、AIの認識から変えていかないといけないですね。
「AIは包丁」と言われると、ちょっと違うかなと思いますが、「AIは道具」というのはその通りです。

「AI記者」がスポーツや気象の原稿を書くのも、道具としての“記者”が存在しているだけなので、便利であっても脅威ではありません。
メスにもなればドスにもなる、というおはなし。
個人的にAIに関して思っている懸念点は、一人間(ここでいう開発者)の思考の領域を越えないという点です。要はオープンな視点で開発されるというよりも、誰かが恣意的に物事を判断し、その前提に立って作り上げていくというものです。

本来人間の持つ解決能力は、自身の思考を越えて発見する事にあると思うのですが、AI化がどんどん進む事によって、問題解決能力自体は失われていくのではないかと感じました。
この連載について
独自の視点と卓越した才能を持ち、さまざまな分野の最前線で活躍するトップランナーたち。これらのイノベーターたちは今、何に注目し、何に挑んでいるのか。毎週2人のイノベーターたちに、さまざまなテーマで大いに語ってもらう対談企画。