アルゴリズムに「人間のような」思慮を求める必要はない
2014年は人工知能（AI）が何かと話題になった。1月にグーグルはイギリスのスタートアップ、ディープマインドを4億ドルで買収。宇宙物理学者のスティーブン・ホーキングと実業家のイーロン・マスクは、人工知能が人間を凌駕する日が来るかもしれないと警戒をあらわにした。
そして年も暮れるころ、幼い子どもを亡くした親がフェイスブックの「アルゴリズムの不用意な残酷さ」を嘆き、同社は謝罪。機械の知能がいかに原始的で、基礎的な機械学習が必要な分野では、人間の優位を脅かすには程遠いことを知らしめた。
グーグルが買収したディープマインドなど、人工知能関連のスタートアップは、人間の脳をデジタルで再現しようとしている。ディープマインドの出資者にはイーロン・マスクも名を連ねていた。
マスクは3月に、フェイスブックのマーク・ザッカーバーグCEOや、ベンチャーキャピタリストとしても知られる俳優のアシュトン・カッチャーとともに、バイカリアスFPCに4000万ドルの出資を決めた。バイカリアスは、視覚や言語、計算などをつかさどる大脳新皮質の機能を、コンピュータのプログラムで再構築しようとしている。
7月には、パーム——あの携帯情報端末（PDA）を覚えているだろうか——を開発したジェフ・ホーキンスが設立したヌメンタが9年間の研究を経て、脳の機能を再構築した初の商業用ソフトウェアを披露した。
ビジネスの世界だけではない。6月に英レディング大学は、チューリングテストで史上初の「合格者」が出たと発表した。これはコンピュータの知能を判定するテストで、人工知能と対話をした人間が、相手が人工知能か人間かを判断できなければ合格となる。今回、13歳の少年を想定した人工知能が、審査員の30％以上に人間だと思わせた。
「人類の終焉をもたらす」
このように2014年は人工知能をめぐって著名な名前が飛び交い、スタートアップに巨額の資金が流れ、テクノロジー界の注目の分野となった——そして同時に、大きな脅威にもなっている。
ホーキングは、「完全な人工知能が開発されたら、人類の終焉をもたらす可能性がある」と発言。マスクも終末論的な予言を繰り返し、5年以内に人工知能は人類の存続を脅かす恐れがあると語った。コンピュータが自らを設計できるようになれば、急速に進化し、人間に変わって世界を支配する日が来るかもしれない——そう、映画『ターミネーター』のように。
人工知能の進歩について、クローン人間と同じような議論をしたがる人もいる。ただし、想像される脅威は確かに似ているが、人工知能の開発では生物学的な素材をいじらない。宗教関係者や規制当局も、クローンの時のような口出しはしていない。
さらに、人工知能の開発が始まって半世紀以上になるが、最先端の技術でさえ未熟さを物語っている。実際、開発者が発表する成果は、人工知能に関する恐ろしい警告よりずっと地味だ。
彼らが開発している「脳」は、画像を認識して分析する（バイカリアスの得意分野だ）、基本的な概念を記憶して紐づける（ディープマインド）、異例なパターンを見つけ、それにもとづいて予測する（ヌメンタ）などの機能を持つ。チューリングテストに合格したのは原始的なチャットボットで、私が試した際は特筆すべき機能はなかった。
プログラマーのジレンマ
とはいえ、人工知能の現場にいる人々は、技術の進歩を熱く語りたがる。エンジェル投資家で、人工知能の専門家でもあるジェレミー・ハワードも、TEDの講演で賛辞を連発した。写真を見て人間よりうまく説明できる——「黒いシャツを着た男性がギターを弾いている」——コンピュータもあれば、中国語を「ネイティブスピーカー並みのレベルで」しゃべるマシンもあるという。
ソフトウエア・エンジニアにとっては、確かにとてつもない進歩だ。彼らはコンピュータに複雑なタスクをさせるために、細かいオペレーションをひとつひとつプログラミングする。しかし、コンピュータがより人間に近い作業を身につけ、インターネットという人間の知識が蓄積されたデータベースを利用して自らの機能を改良できるようになれば、プログラミングは今より簡単かつ創造的になるだろう。最終的に、人間は目標を設定するだけでよくなるかもしれない。具体的な特徴を示して設計を指示すれば、あとはコンピュータがやってくれる。
そうなれば多くのプログラマーがお払い箱になる恐れもあるが、この点に関して同情はいらないだろう。プログラムで制御されるマシンはすでに、数多くの手作業を葬り去ってきた。プログラマーが時代遅れの職業になるとしても、そのようなマシンの作り手として甘受するまでのことだ。
一方で、人間の思考はコンピュータの機能をはるかに超えて広がっている。最先端のマシンでも、マスクの予言どおり人工知能が5年以内に驚異的なレベルに達したとしても、到底及ばない（ちなみにマスクの予言は、自分も出資するスタートアップの可能性を喧伝していることにもなる）。
アルゴリズムの決定的な欠陥
ここに、フェイスブックが謝罪した「今年のまとめ」機能の問題点が見えてくる。「今年のまとめ」は、あなたがフェイスブックに投稿した写真のなかから、あなたの1年間を要約するであろうものを自動的に選んで編集するサービスだ。その通知はタイムラインのなかで否応なしに目立ち、機能を停止する方法はわかりにくい。
「今年のまとめ」を生成するアルゴリズムは、粗削りな人工知能だ。「いいね！」やコメントなどの反応が多かった写真を選び、甘ったるいレイアウトで飾りたて、素晴らしい1年を振り返りましょう、みんなとシェアしてくださいと差し出す（もっとも、私の「今年のまとめ」を見ても、国外に移住して仕事が忙しい1年だったことはわからないだろう）。多くのユーザーが歓迎しているが、驚くような写真が選ばれることも少なくない。
ウェブデザイナーのエリック・マイヤーにも「今年のまとめ」が届いた。脳腫瘍のため2014年に6歳で亡くなった娘の写真が、楽しそうなイラストに囲まれていた。フェイスブックはマイヤーに謝罪したが、問題は倫理観ではなく、アルゴリズムの基本的な欠陥だ。マイヤーは次のように指摘している。
そもそもアルゴリズムに思慮はない。フローに沿って決断を下していくが、いったんプログラムが動きはじめると、そこに思考はない。誰かを「思慮がない」と言う時は、どことなく、あるいはあからさまに、侮辱していると受け止められる。一方で私たちは、文字どおり思慮のないプロセスを、周囲や日常生活に、自分自身に、まき散らしている。
データに変換できない世界
本当に賢いコンピュータは、マイヤーの娘に何が起きたかに気づき、彼女の写真をにぎやかなデザインで囲んだりしないだろう。最初から彼女の写真を選ばないコンピュータも、いずれ登場するだろう。
しかし、マイヤーがどういうかたちであれ2014年を振り返りたくないと判断できる知性を持ったコンピュータを、私は想像することができない。そのような事情は、ビッグデータを解析してもわからない。しかし、大多数の人が抱えている暗黙の事情であり、恋愛や政治など、あらゆる人と人のやり取りを動かしている。
人工知能はいずれ、特定のタスクを実行する——言葉で状況を説明する、逐語訳ではなく意味の通じる文章をつくるなど——段階を超えて、自分たちの世界を築く知能を持つだろう。ホーキングやマスクが警戒するように、私たち人間は人工知能の世界を制御しきれなくなるかもしれない。
ただし、それはあくまでも人工知能の世界であって、私たち人間の世界とは違う。なぜなら、人間の世界は知能で動いていないからだ。写真や音楽や言葉など、データになりきらない他愛のないものが染みわたった人間の世界には、テクノロジーでは変えることのできないものがある。
（執筆：Leonid Bershidsky、写真：Bloomberg、翻訳：矢羽野薫）
Copyrightc2014,Bloomberg News. All Rights Reserved.
www.bloomberg.co.jp
