【暦本純一】AIと人類の未来を問う最大の論考『LIFE3.0』を議論しよう

2020/9/3
「NewsPicks NewSchool」では、10月よりリベラルアーツプロジェクトとして「アウトプット読書ゼミ」（主宰：NewsPicksパブリッシング）を始動。

名著を読み、考え、議論することを通して「答えのない問い」に向き合うアウトプット型プロジェクト。

プロジェクトリーダーに編集者・プロデューサーの岩佐文夫氏、特別ゲストに東京大学大学院情報学環教授で、ソニーコンピュータサイエンス研究所副所長を務める暦本純一氏をお招きし、暦本氏が選書した『LIFE3.0——人工知能時代に人間であること』をもとに「AIと人類の未来」について考え、対話する。

体験会のお申し込みはこちら。
AIの発展は人類の希望なのか、はたまた大いなる危機なのか——これからの時代の最も重要な議論へとわたしたちをいざなう『LIFE3.0』。コンピュータサイエンスの第一人者である暦本氏に、岩佐氏がその魅力を迫った。

グランドセオリーとしての『LIFE3.0』

岩佐　暦本さんが選書されたマックス・テグマーク著『LIFE3.0』ですが、この本の魅力を教えてください。
暦本　『LIFE3.0』は、レイ・カーツワイル著『シンギュラリティは近い』以降、AIについての最大の論考ではないかと思います。
超知能AIが出現したら何が起こるか――労働、法律、軍事、倫理から、生命と宇宙、機械の意識まで多岐にわたる問題を論じた全米ベストセラー。イーロン・マスク、レイ・カーツワイル、スティーヴン・ホーキングらの大物が続々推薦。バラク・オバマ Favorite Books of 2018、ビル・ゲイツ 10 Favorite Books about Technologyにも選出された。
実は『LIFE3.0』というタイトルから、ひと昔前の「Web2.0」の流れで「2.0の次だから3.0でしょ」といった、取ってつけたような本なのかと思っていたんです。
ところが全米ベストセラーになっており、スティーブン・ホーキングやイーロン・マスクが推薦していたので、多少懐疑的になりつつも読み始めました。
読んでみて驚きました。AIと人間の関係をここまで網羅的、かつ俯瞰的に論じた本は見たことがない。現段階で考え得る人類の未来が冷静に論じられていて、著者の思想や「こうあるべき」といったイデオロギーが極力排除されています。
まさに、「人類のあり方に関わるグランドセオリー（汎用的な一般理論）」といっていい。SF的な語り口にも引き込まれました。著者が提唱する「LIFE3.0」という生命区分の概念も、十分に納得させられましたね。
LIFE1.0——ハードウェア（物質；肉体）とソフトウェア（情報；脳機能）の両方が、設計されるのではなく進化する生物学的段階

LIFE2.0——ハードウェアは進化するだけだが、ソフトウェアの大部分は設計できる文化的段階

LIFE3.0——ハードウェアもソフトウェアもデザインされる技術的段階
「LIFE2.0」は身体性に制約を受けるわけですが、AIは姿形さえ自由にデザインできる「LIFE3.0」の段階に進める可能性がある。
この定義から明らかになるのは、AIが人類のあり方そのものを根本的に変えうるテクノロジーだということであり、だからこそきちんと議論しなければなりません。
この本には、人類のこれからを考えるにあたってのアジェンダが詰まっているのではないでしょうか。日本で評判になっていないことが不思議なくらいです。
1回読んだだけでは消化しきれないので、考えを深めるために何回も読まなくてはならない本です。
暦本純一／情報科学者、東京大学情報学環教授
ソニーコンピュータサイエンス研究所フェロー・副所長、ソニーCSL京都ディレクター。世界初のモバイルAR(拡張現実)システムNaviCamを1990年代に試作、マルチタッチの基礎研究を世界に先駆けて行うなど常に時代を先導する研究活動を展開している。現在は、Human Augmentaion(人間拡張)をテーマに、人間とAIの能力がネットワークを越えて相互接続・進化していく未来社会ビジョン Internet of Abilities (IoA)の具現化を行っている。
岩佐　大胆に論じているだけでなく、根拠が明確に示されていますよね。
暦本　「未来は著しく大変になる」「世の中が激変してヤバい」と煽るように論じられる本もありますが、根拠なく囃し立てているだけであることが多いです。
この本はファクトベースで、なおかつそのファクトも新しい。データから読み取れることを冷静に論じていておもしろかったです。
岩佐　「AIと人類の未来」についての本は、「著者はAIの発展に対して肯定的か否定的か」と考えながら読んでしまいがちですが、『LIFE3.0』著者のテグマークはどちらの立場でもないですよね。
岩佐文夫／プロデューサー・編集者
日本生産性本部、ダイヤモンド社にて、約30年間、ビジネス書籍・雑誌の編集に携わる。2012年から2017年まで「DIAMNDハーバード・ビジネス・レビュー」編集長を歴任。2017年4月より独立。企業の新規事業やメディア開発の支援、組織コンセプトやコンテンツ開発に携わる。書籍『シン・ニホン』のプロデュースを担当。自分の頭で考える人を増やす活動に従事。
暦本　テグマークはニュートラルな立場です。未来の可能性を理論的に検証した上で、起きることは起きるし、起きないことは起きない、わからないことはわからないと書いており、とても謙虚に論を展開しています。
人間を凌ぐと言われるAGI（汎用人工知能）の到来時期ひとつとっても、専門家の間でさえ意見が分かれていることが事細かに述べられています。
「2045年にAIが人間を越す」といった決め打ちはしていないのですが、50年以内に大きな変化が起きる可能性も否定できないのだから、いまから対策しておく必要があるという立場です。
岩佐　サイエンティストは特定のイデオロギーを持つべきではないのでしょうか？
暦本　サイエンティストで特定のイデオロギーを持っている人は当然います。ただ、イデオロギーを論考に反映してしまうと事実と論理に立脚した冷静な議論ができなくなります。
テグマークは「AIと人類の未来」という非常に重大な問題を扱うにあたって、個人的なイデオロギーを介入させずに、できるだけ多くの科学者や専門家と連携して考える立場を取っています。だからこそ、『LIFE3.0』はまさにグランドセオリー、文明論になっていると思いますね。
岩佐　これからの文明について議論するには、テグマークが論じているような「AIと人類の未来」を前提にする必要があるのでしょうか？
暦本　まさにおっしゃる通りです。『LIFE3.0』では、人間がAIの制御に成功するシナリオから逆にAIに支配されるシナリオまで、技術の爆発的発展によって起きるさまざまな変化が想定されています。
それらのシナリオは、想定される変化に対して人類が先手を打つための基本的な前提となるでしょう。
岩佐　そうすると、カーツワイルの『シンギュラリティは近い』よりも、より文明論になっているという言い方もできるのでしょうか？
暦本　『シンギュラリティは近い』では「技術がエクスポネンシャルに爆発的発展を遂げる」と述べられています。
『LIFE3.0』は、その爆発的な技術が社会にもたらすさまざまなシナリオを考慮している点で、テクノロジーに焦点を当てた『シンギュラリティは近い』よりもより社会や人類の未来に論考を引き込んでいると言えます。

人間を「拡張」するか、「代替」するか

岩佐　これまでも新しいテクノロジーは大なり小なり人類を変えてきたと思うのですが、暦本さん自身、AIが人間社会に与える影響は特別なものになるとお考えですか？
暦本　これまでは、最終的には人間が技術をコントロールできるという前提で考えていました。そのなかでも、もっとも暴走する可能性があったと言えるのが核エネルギーだと思います。
ただ核エネルギーも、人間の英知をもってすれば基本的にはコントロールできるし、核戦争を引き起こさずに済む、と一般的に考えられていますよね。核爆弾のスイッチを押すのは結局人間なので、あくまで人間の制御下にあると言えます。
しかし『LIFE3.0』には、AIが人間の制御を抜け出して主体的に活動するようになる「脱獄」シナリオについてかなり精密な分析があります。「いざとなったら電源抜けばいいんでしょ」では済まないことがわかってきます。
私も以前ハーバード・ビジネス・レビューで「人工知能が主体的に経済活動する」と書きましたが、株の売買がアルゴリズムに則って行われ、ITが社会システムの基盤となっている時代に、AGI（汎用人工知能）が勝手にお金儲けをして、クラウドや計算資源を買ってどんどん増大していく可能性はあります。
人間を雇うことだってあり得るでしょう。
人間から見ればAIがどこで何をしているかわからなくなることが想定される以上、かつてないほどの人類への影響があると考えられます。
岩佐　人間がコントロールできなくなる技術を人間が開発するのが、AI時代の本質なのでしょうか？
暦本　そうですね。いまは研究者や技術者がAIを進化させていますが、やがてはAIがAIを直接進化させるフェーズに入ることも本書では想定されています。
プログラムを書くプログラムやコードを書き出すAIの研究はすでに盛んなので、そう遠くない未来に実現されるのではないでしょうか。
岩佐　暦本さんはAIに対してポジティブな期待を持ってらっしゃいますか？
暦本　基本的にはポジティブです。というより、技術の発展は避けられない。
「テクノロジー版＜種の起源＞」とも言われたケヴィン・ケリー著『テクニウム』でも同じことが指摘されていて、「AI開発は危険だからやめろ」と抑え込むようなネガティブな主張をしたとしても、進化する可能性がある技術は進化してしまいます。
また、人類がテクノロジーを進化させていると思っているかもしれませんが、テクノロジーのほうが人類の能力、たとえば脳のリソースを使って進化・増殖していると見ることもできるわけです。
『LIFE3.0』でもAIに関する規制は議論されていますが、技術を抑え込むためのものではなく、むしろ技術の発展を前提とした上での「身構え」のようなものです。
岩佐　そうなると「AIが人間を超えるか否か」という議論が古いものに感じられます。
そうではなく、「AIの発展にわれわれがどう向き合うか」という議論こそが必要だということですね。
暦本　はい、LIFE2.0を基準にLIFE3.0を論じても無理があるということですね。
そもそも、一口に「人間を超える」と言っても、計算能力や記憶力など、分野を絞れば機械はすでに人間を超えています。それがAGI（汎用人工知能）になると、人間が持つあらゆる目標を達成できるようになる。
岩佐　暦本さんは、機械の力で人間の能力を拡張するIoA（Internet of Abilities）について研究されていますが、AIは人間の能力を拡張する次元を超えているのですか？
暦本　人とインターネットをつないで人間の能力をアップデートするのがIoAなのですが、この本の論を援用すると、人間を超える技術と人間が融合したときに、人間そのものはどうなるのだろうかという話になると思います。
AIが進化すれば人間の脳がアップデートされると言う論者もいますが、本書ではAIが人間と異なる目的に向かって動き出す可能性があると書かれています。
必ずしも人間ありきの話に限定されないでしょう。
岩佐　IoAのような考え方は、AGIが出てきたときには無意味になってしまうのでしょうか？
暦本　そこも、今回プロジェクトに参加されたみなさんと考えてみたい点です。
AGIと人間がネットワークを成すような超IoAで、人類全ての意識が結合して超個体のようになるのかもしれないし、脳と脳がハウリングしあってしまうかもしれない。超IoAネットワークの中で、「肉のAI」である人類が足かせとなる可能性もあるでしょう。
その一方、『LIFE3.0』ではイデオロギーを交えずに書くという著者のスタンスから、あえて「AIによって人間は幸せになるのか」といった議論が避けられています。
われわれは未来がどうなれば幸せだと感じるのか、どうすれば豊かだと思えるのでしょうか。
IoAは「テクノロジーで人間を幸せにする」ことも重要な目的としているので、この本を踏まえて、AI時代に人間がより充足感を感じられる世界をつくるにはどうしたらいいか、考えてみたいですね。

人間であることの意味を考える

岩佐　先ほど「この本には著者のイデオロギーが反映されていない」とおっしゃっていましたが、読者である我々がこの本をもとに「どんな未来をつくりたいのか」というある種のイデオロギーについてディスカッションすることが必要になってくるというわけですね？
暦本　まさにその通りです。
もちろんこの本にはAIの安全性についての論考もあります。しかし、安全な社会であれば100％満足なのかというと、そうではないですよね。
わたしたちが人間である限り、「食べものがおいしい、気温が心地いい」といったフィジカルな人間の嬉しさや豊かさはなくなりません。
なので、あえてそういった個々の生活レベルの話に論考を引き寄せて考えてみるといいかもしれません。
いま20代の人は、自分が100歳になるまでにはかなりの確率でAIによる大変化が起こると考えていいでしょう。
オンライン上で仕事を任せられるエージェントが一般的になる可能性もあるし、仕事の概念が変わっていき、たとえば定年退職という制度は近いうちに消えるかもしれません。
教育に関しても、「機械翻訳が発達していくのに英語を学ぶ必要はあるのか？」と真面目に聞かれると、すでに少し答え難いですよね。
「そろばんをやる必要があるのか？」と聞かれたら、「指を動かしたら頭の働きの足しになる」と答えるくらいしかできないように。英語を学ぶ必要性が低下する可能性は否定できません。
あくまで一例ですが、仕事や子育てを考えるにあたっても、この先50年間ほどの科学技術の変化を想定しておく必要があります。
一人ひとりの生活に起こり得る変化には無数に考えられると思います。
『LIFE3.0』は超俯瞰的な立場の論考ですが、結局そういった未来でも我々は何らかの意味で生活しているわけです。
そういった普段の生活や自分の趣味もどうなるのだろうかと考えながら、議論できるといいですね。
岩佐　特にオンラインでの会話が一般的になると、画面の向こうにいる人が英語で話したものが私には日本語で聞こえるようになる、なんてことも想像しやすいです。
暦本　まさにそのとおりで、実世界よりもリモートコミュニケーションのほうがはるかに簡単に技術で拡張できるわけです。
オフラインで話す人の英語をウェアラブル端末によって翻訳するよりも、Zoomに翻訳システムを入れるほうがはるかに簡単ですからね。コロナの影響によって未来が急速に近寄ってきました。
ちなみに、この取材もZoomを利用していますけど、私が人間だという根拠はないわけですよね（笑）。
オンライン上で話している相手が人間なのかAIなのかを見分けることは難しくなるでしょう。
アバターを人間のように振舞わせる技術ならすでにあるとも言えます。
アバターを会議に呼んで「ちょっとこれ調べておいて」とか「プレゼン資料作っておいて」と言って、その仕事の結果がオンラインで届けば、人間を雇っているのと変わりませんよね。
岩佐　そう考えると、50年後の世界を実際に目にすることができる20代の人がうらやましくなってきます。
暦本　うらやましいですね。ただ仕事が激変して未来が見えにくくなることを思うと、大変そうだなとも思います（笑）。
日々の生活を揺るがすレベルの問題ですから、いまから考えておく必要があります。
古典としての名著は、研究者や専門家がその内容から受け止め方まで解説してくれていて、ある程度価値が確定しています。
『LIFE3.0』も名著と言えるけれど、発売からまもない分この本を読んでどう考えるかの自由度は高いし、それを考えることでこの本の価値は高まります。
繰り返しになりますが、せっかく読書会なので学者のご高説を承るよりは、これから先の50年間、自分の人生がどうなるのか、いまわたしたちが人間であることの意味は何か、をぜひ主体的に考えていただきたいですね。
「NewsPicks NewSchool」では、10月から「アウトプット読書ゼミ」を始動します。

現代の知の巨匠が著した本を読み、特別ゲストの暦本純一氏とともに考え、議論することで、自らの思考を深める体験を一緒にしてみませんか。体験会のお申し込みはこちら。

詳細は以下をご確認ください。
（取材・執筆：山﨑隼、編集：井上慎平）