AIはなぜヒトラーを礼賛したのか
コメント
注目のコメント
最近、"AI"とつくシンポジウムで必ずと言って良い程言及される日立製作所。そのAI専門家の矢野さんと法律の専門家である平野さんの話を興味深く拝読しました。
自律したロボットの責任についてのお話が出てきます。矢野さん曰く、「誰も責任を取らないなんてことはあり得ない」とのこと。AIの裏側に人がいる以上、私もそう考えたいです。
ただ、昨今の豊洲新市場移転の件を見聞きするにつけ、AIが介在しない対人における事象についてさえも責任者が明確にならないのに、況んやロボットをやという見方があるのも理解出来ます。
そこで倫理的なルールも決めていきましょうということで、先日発表されたGoogle、amazonなどの連携に繋がると考えています。
日本国内でも、今後活発な議論がなされる環境になることを、私自身も微力ながら尽力したいと思います。
（追記）
本記事では、AIの開発の歴史についても少し触れられています。これまでに3度、AI開発が勃興した時期がありました。1956年-1969年、1980年-1988年、1989年以降、特に2013年から現在までといった感じです。1956年にダートマス会議でAIという言葉が使われる以前から、ニューロネットワーク等の研究はありました。
詳細については、人工知能学会に掲載されている人工知能の歴史をご参照下さい。
https://www.ai-gakkai.or.jp/whatsai/AIhistory.htmlＡＩと倫理の問題は、全体が分かっている人がいないので、混乱しがちです。平野先生との対談で、全体観に迫れたかと密かに思っています。
キーワードは「手品」です。
明日も続きますので、是非ご笑覧ください。僕もIoT屋さんと同じで、少し違和感を感じました。
ちょっと前までは「人ができることをコンピュータにもやらせる」というレベルだったかもしれず、例えば、人がどうやって相手の顔を見分けてるかについて、思いつく特徴をあれこれ計算させることで識別させていた、というのは正に裏に手品のタネがあるという比喩でもいい気がします。が、囲碁で勝ってしまったように、人間が考えつくタネ以上のことができるようになってきていることで、今注目を集めているのだと思うので、その意味では手品のアナロジーは少し違うかなぁと。
ヒトラーの件も、この書き方だと、下手すると設計した人がヒトラーを礼賛するようにパラメータ調整した、というようにも読まれかねない気もします。実際には、いろんな発言をしうる中で、「そういうこと言っちゃダメだよ」という制約が足りなかったということなわけです。「そういう発言をするように」という制約を入れていて罰せられるのはとても良く分かりますが、こういった「禁止に対する制約の不足」を、どの程度罰するべきかというのは気になるところです。
