安全保障の専門家に聞く「自動化」の懸念
新型コロナウイルス感染症の危機が広がる中、ロボットによる自動化の動きが加速している。
感染拡大を食いとめようと人間が家に引きこもる代わりに、ロボットは食料品を配達し、感染リスクのある人間に代わって工場で働くなど、今までにないやり方で私たちの日常に入りこんでいるのだ。
しかし、専門家の予想よりもハイスピードで進む変化には、プライバシーとセキュリティーへの懸念もつきまとう。
Quartzは、この懸念のポイントを明らかにするべく、安全保障の専門家で作家のP・W・シンガーに取材を行った。
シンガーはオーガスト・コールとの共同執筆で、事実に深く根ざしたテクノロジーサスペンス小説『Burn-In: A Novel of the Real Robotic Revolution』を5月に発表したばかりだ。
彼らは2015年に『Ghost Fleet』を出版した際、ホワイトハウスと議会、国防総省に招かれ意見を求められるなど、テクノロジーが現実世界に及ぼす影響について最も造詣の深い専門家だ。
シンクタンク、ニュー・アメリカ財団の戦略家であるシンガーは早いうちから新型コロナウイルスのパンデミックについて警鐘を鳴らし、その長期的影響を予測していた。
シンガーとコールが『Burn-In』に着手したのは数年前だが、自動化の進展とそれに伴うプライバシーの侵害など本のリサーチ段階で気づいた地球規模の変化を、パンデミックが加速化させている兆しがあるという。
わずか数週間で10年分の進化
──コロナ危機により、具体的になにが加速しているのでしょう？
シンガー：『Burn-In』で描いた潮流の多くはパンデミック以前からはじまっていましたが、そうした傾向が加速化していることはあらゆるデータが浮き彫りにしています。
子供の世代はオンラインで授業を受け、大人たちは想定外のレベルでリモートワークをしている。遠隔医療などの分野は、あと10年はかかると見られていた域にまで、ものの数週間で到達しました。
いま、ロボットは外出禁止違反の取り締まりや、地下鉄の車内や病院の清掃、食料品の配達といった作業に使われるようになりました。
そして、AI（人工知能）による個人と社会の監視がエスカレートしています。ここまでの監視社会は、SF小説ですら描かれていないような強烈なものです。
パンデミックが終息しても、世界は元に戻りません。つまりフィクションの小説『Burn-In』のなかで登場人物たちが立ち向かうような、政治、・経済・セキュリティー・社会さらには家庭内の難題に、私たちは現実世界で直面することになるのです。
システムの暗示通りに人が動く
──「SF小説を超えるほどの監視社会」というのは？
シンガー：個人と社会を対象としたデータ収集が加速し、またどんどん拡大しています。数ヶ月前までデータ収集が検討すらされていなかった分野にも取り入れら始めたのです。
これまでのような個人の消費傾向や通信だけでなく、今では過去の病歴や現在の体温も追跡しています。次の段階として、AIはそのデータをもとに個人の行動を予想し、その人に何らかの方法で働きかけて、行動を変えるように仕向けるでしょう。
──働きかけて行動を変える、どういうことでしょうか。
シンガー：顔認識ソフトウェアを例に取りましょう。ソフトウェアはあなたの顔から身元を割り出し、デジタル記録を特定するだけではありません。そのデータを使って、あなたがどこに移動し、なにを買い、誰に投票するか、次の動きを予測します。
ここでカギとなるのが、その個人の行動に何が影響するかということです。予測して得た傾向から、効果的にその人に働きかけて、行動を変えさせます。
『Burn-In』では、あるキャラクターがワシントンのある駅構内を歩いていて、ソフトウェアに認識される。すると途端にその人物の関心を逸らそうと、カスタマイズされた広告がいくつも端末に表示されます。
推奨ルートを微妙に変えたり、世界観が変わるような投稿を続けてフィードに表示させたりして、本人が気づかないうちに、行動を変えさせるんです。
遠い未来の話ではありません。例えば恋人にプロポーズさせたい、あるいは配偶者にペットを飼うのをＯＫさせたいとします。カネさえ払えば、あなたのパートナーの気持ちが変わるように、フェイスブックのタイムラインにそうした記事をこっそり仕込んでくれる会社が実際にあるんです。
コロナ第2波をロボットでしのぐ
──人が外に出ない今、ロボットはどんなふうに普及しているのですか。
シンガー：現在も景気のいい経済セクターはごく少数ですが、ロボット産業はそのひとつです。企業側は大きな声では言いませんが、ロボット関連の会社はパンデミックによる需要の急増で大いに潤っています。
ロボットは汎用性が高く、メーカーから銀行までさまざまな業種が今後の数年間を見据え、コロナウイルス感染拡大の第2波、第3波が来たときに営業を停止せずにおく方法を模索しています。
工場の組み立てラインにしても清掃にしても、ロボットなら人件費が固定でき削減できますし、病気にもなりません。なにより社会が丸ごとが隔離されても、ロボットは休ませる必要がないのです。
トップの理解が進まないＡＩ
──今度の見通しを教えてください。
シンガー：AIと自動化は現在最も重要なテクノロジーであるだけでなく、人類史上において最も重要なテクノロジーとなるかもしれません。産業革命に匹敵するというより、歴史に類を見ない新しい革命なんです。
農民がシャベルを工員のハンマーに持ち替えるというふうに単にツールが替わるのではなく、歴史上はじめて道具が知性を持ち、そこから労働が変わるんです。
しかしギャップは大きい。
国家や企業幹部の91％は、AIは現在最も重要なテクノロジーであると位置づけています。AIは米軍の新たな「国家防衛戦略（NDS）」や中国政府、グーグル、フェイスブックをはじめとするテック大手から農業機械のディア・アンド・カンパニーやマクドナルドまで、あらゆる組織の戦略に織り込まれています。ディア・アンド・カンパニーとマクドナルドはAIが未来を左右すると考え、AI企業を買収までしました。
ところが、AIに精通していると答えたリーダーは17％にすぎない。AIがもたらす変化の意味合いを理解するとなると、さらに難しいでしょう。
91％と17％のギャップを考えてみてください。最も重要なテクノロジーであるとわかっているのに、理解ができていない。もっと追求しなければいけません。私たちはAIを理解しなければならないんです。
AIが雇用を脅かすのは50年、100年先だとスティーヴ・ムニューシン財務長官は発言しましたが、そうした問題はすでに浮上しています。製造業の雇用喪失は、85％が自動化によるもの。中国が仕事を奪ったわけではありません。
ロボット社会を現実と受けとめよ
──雇用の喪失を遅らせることはできるのでしょうか。
シンガー：人間と機械のチームワークを推し進めるのがポイントとなるでしょう。ロボットは確実に職場に進出し、それを止める術はありません。
では一体、軍隊や病院、銀行やメディアといった環境で、ロボットはどんな役割を果たすのがふさわしいと考えるでしょうか。そして私たち人間は、機械とどう働いていくべきでしょうか。
これからは、ロボットを訓練するだけでなく、ロボットと働く人間をどう訓練するのかも考えなくてはいけません。これは教育をはじめ、すべてに関わる問題です。将来、子供たちが困らないように教育システムを変え、業種を問わず働くすべての人間が経済的に繁栄できるようにしなければなりません。
また、自動化されるべきでない、あるいは自動化が進みすぎたと判断される分野も出てくるでしょう。そうしたことはテック企業が社会でベータテストを行うより、話し合って決めるべきです。
要するに、自動化の波はSF小説のなかの絵空事だという見方を改め、AIは現実社会に進出し、私たち人間にジレンマを突きつけるのだと理解しなければいけない。問題の解決策を模索し、ロボット社会をより楽観的にイメージできるようになるのは、それからです。
元の記事はこちら（英語）。
（執筆：Alexandra Ossola、翻訳：雨海弘美、写真：yokunen/iStock）
2019年11月より「Quartz Japan」が立ち上がりました。日本語で届くニュースレターについて詳細はこちらから
© 2020 Quartz Media, Inc.
This article was translated and edited by NewsPicks in conjunction with KINTO.
