新着Pick
NewsPicks編集部

この記事は有料会員限定の記事となります。

269Picks
シェアする
Pick
Pick に失敗しました

人気 Picker
AIと倫理の問題は、全体が分かっている人がいないので、混乱しがちです。平野先生との対談で、全体観に迫れたかと密かに思っています。
 キーワードは「手品」です。
 明日も続きますので、是非ご笑覧ください。
最近、"AI"とつくシンポジウムで必ずと言って良い程言及される日立製作所。そのAI専門家の矢野さんと法律の専門家である平野さんの話を興味深く拝読しました。

自律したロボットの責任についてのお話が出てきます。矢野さん曰く、「誰も責任を取らないなんてことはあり得ない」とのこと。AIの裏側に人がいる以上、私もそう考えたいです。

ただ、昨今の豊洲新市場移転の件を見聞きするにつけ、AIが介在しない対人における事象についてさえも責任者が明確にならないのに、況んやロボットをやという見方があるのも理解出来ます。

そこで倫理的なルールも決めていきましょうということで、先日発表されたGoogle、amazonなどの連携に繋がると考えています。

日本国内でも、今後活発な議論がなされる環境になることを、私自身も微力ながら尽力したいと思います。

(追記)
本記事では、AIの開発の歴史についても少し触れられています。これまでに3度、AI開発が勃興した時期がありました。1956年-1969年、1980年-1988年、1989年以降、特に2013年から現在までといった感じです。1956年にダートマス会議でAIという言葉が使われる以前から、ニューロネットワーク等の研究はありました。

詳細については、人工知能学会に掲載されている人工知能の歴史をご参照下さい。
https://www.ai-gakkai.or.jp/whatsai/AIhistory.html
ついついAIを擬人化してしまい、AIに仕事を取られるだとか、AIが人類を超えるだといったことを口走りがちでしたが、今回の対談により、それがいかにナンセンスかが身にしみました。
矢野さんは留保なしで信用できる数少ないビッグデータ、AIの実務家です。難しいことを簡単に説明できるのが凄い。
目的を設定し、そこへの到達方法は、大量のデータを読み込んで特徴量を自動的に抽出するという理解。そのなかで、目的設定を人間がするので、完全自律ではないし、そこの責任は人間。
逆に言えば、目的を目指す中で「何はしてはいけない・勝手にしてはいけない」の設定が一番のキーなのだと思う。ただシナリオを網羅的に抽出するというのが簡単ではなく、そこをどれだけ簡単にできるようになるのかというのも、今後の進化において重要そう。ただ簡単にできるようになるということは、特に「ヒトラーは悪くない」という部分はコモンセンスによる部分があると思う。コモンセンスとは何か、そこの判断を自動化できるのか・すべきなのかというのが関連する論点としてはあると思う。
僕もIoT屋さんと同じで、少し違和感を感じました。
ちょっと前までは「人ができることをコンピュータにもやらせる」というレベルだったかもしれず、例えば、人がどうやって相手の顔を見分けてるかについて、思いつく特徴をあれこれ計算させることで識別させていた、というのは正に裏に手品のタネがあるという比喩でもいい気がします。が、囲碁で勝ってしまったように、人間が考えつくタネ以上のことができるようになってきていることで、今注目を集めているのだと思うので、その意味では手品のアナロジーは少し違うかなぁと。
ヒトラーの件も、この書き方だと、下手すると設計した人がヒトラーを礼賛するようにパラメータ調整した、というようにも読まれかねない気もします。実際には、いろんな発言をしうる中で、「そういうこと言っちゃダメだよ」という制約が足りなかったということなわけです。「そういう発言をするように」という制約を入れていて罰せられるのはとても良く分かりますが、こういった「禁止に対する制約の不足」を、どの程度罰するべきかというのは気になるところです。
AIは「チューリングマシンの枠組みの中で、プログラムの書き方のちょっとした流行」という矢野さんの解説にうなづく。ただ、それで機械が自律「的」に働く不安をどうするか。
両名の「システムが問題を起こしたら、そのシステムを設計した人やシステムを投入、活用した人に責任」があるという見方に対し、その責任を取らせればよいというレベルに問題が収まるか、というのが不安の種でしょう。そこをうまく乗り越えたい。
AIは手品。久々に脚光を浴びるのが嬉しくて専門家は黙って見ていただけ。まさに目から鱗でした。この対談記事は最後まで必読ですね。
「手品」の喩えは分かりやすいですね。裏側にタネがあることを知って楽しむはずのものが、「本当だ」と評価され独り歩きすることの怖さ。
ロジックを組んで入れる人間が必ずいるのに、それを度外視してしまう流れは確かにできつつありますね。
とはいえ根源的な不安感は、「今」はそうであっても、今後本当に人間が設定情報を入れなくても、自分で考える、あるいは投入された設定を自分で書き換える能力を持ったAIは絶対に生まれないのか、ということかなと思います。
この不安(期待?)がある限りは手品を本当のことと思ってしまう風潮は拭えないのではないかな、と。
確かにAIはシンプルなアルゴリズムです。
ヒトラーを賞賛したというのも、まさに人間がそういう定量データを入れ込んでいたからに過ぎません。

ヒトが介在しないと成り立ちません。だから「人工」知能。
この連載について
独自の視点と卓越した才能を持ち、さまざまな分野の最前線で活躍するトップランナーたち。これらのイノベーターたちは今、何に注目し、何に挑んでいるのか。毎週2人のイノベーターたちに、さまざまなテーマで大いに語ってもらう対談企画。
マイクロソフト(英語: Microsoft Corporation)は、アメリカ合衆国ワシントン州に本社を置く、ソフトウェアを開発・販売する会社である。1975年4月4日にビル・ゲイツとポール・アレンらによって設立された。 ウィキペディア
時価総額
74.6 兆円

業績