テック企業は軍事技術に携わるべきか否か、業界内から生まれる脅威

2019/3/12

グーグル社員がノーを突きつけた「プロジェクト・メイヴェン」

AIに関する課題は数多くあるが、そのなかでもAIと兵器の問題は、もっとも深刻かつ複雑で、アプローチが難しい問題のひとつだ。
課題が解決されていない状況で、AIと兵器に関してテクノロジー関係者の間で意見がすっぱりと分かれ、正面から対立することが明らかになったことがある。「プロジェクト・メイヴェン」に関するものだ。
「プロジェクト・メイヴェン」については、名前を耳にした人もあるかと思う。大きく取り上げられたのは2018年4月、グーグルの社員3000人以上が、このプロジェクトへの参加に反対する嘆願書に署名した時だ。
このプロジェクトで同社が関わっていたのは、ドローンのカメラがキャプチャした映像を解析するためのAI開発。これが進むと、人をターゲットにした自動殺傷も可能になるとして、社員が抵抗を示したのである。
会社側から契約規模や内容についてはっきりした説明がないことを理由に、主要なエンジニアらが仕事を拒否。その結果、社内で請け負ったプロジェクトが進められなくなった。グーグルはその後、同プロジェクトの契約更新を行わないことを発表している。

ティールの右腕が仕掛ける某社の動き

テクノロジー企業が軍事技術へ関わることに反旗をひるがえす社員は多く、日々の仕事では先端技術の開発を推し進める彼らも、戦争や兵器には手をつけたくないという立ち位置をはっきりと保持しているのだなと、その意思に感心したのだった。
ところが、そういう人たちばかりではない。同じ「プロジェクト・メイヴェン」を別のテクノロジー・スタートアップが何の躊躇（ちゅうちょ）もなく請け負ったのだ。
しかもそのスタートアップ、アンデュリル・インダストリーズは、フェイスブックに買収されたバーチャルリアリティ用ゴーグルのオキュラスVRの創業者パーマー・ラッキーが設立した会社で、資金を援助しているのはあのピーター・ティールだ。
アンデュリルのラッキーは、シリコンバレーにあってトランプ大統領のサポーターとしても知られ、時にフェイスブックへの売却によって得た巨額の資金を極右組織の活動に注ぎ込んでいる。
そして、言わずと知れたティールはトランプにも近く、早くも2020年の大統領選挙で再び彼をサポートすることを明らかにしている。
アンデュリルには、ティールの右腕とされる人物で、軍事技術スタートアップのデータ解析会社パランティアに在籍した人物も共同創業者として在籍する。同社もティールの投資を受けている。

AI搭載兵器は核兵器にも匹敵する

「プロジェクト・メイヴェン」は、AIを戦場の様々な場面で使えるツールとして開発することを目的として生まれ、いくつもの要素とフェーズから成り立っている。当初は、中東での戦争に用いられるドローンの画像認識の精度を上げることに照準が合わされた。
アンデュリルの技術は、ドローンで地上の画像を集め、そのデータを精密な3Dモデルに再構築する。さらに予測分析を行い、戦場の兵士にその場のあらゆるメタ情報をタグ化して提供することで、高性能のドローン管理ツールとなるというものらしい。その管理には、遠隔からの殺傷も含まれるだろう。
ラッキーは「プロジェクト・メイヴェン」に抵抗したグーグルのエンジニアらを批判していた。そんなことで抵抗しても、中国やロシアが同じ技術で攻撃してくるのにどう対処するのかという理由からだ。そして、グーグルが抜けた間隙を縫って、自分たちの技術を売り込んだということになる。
AIが兵器に搭載されると、殺傷の自動化だけでなく、多くの危惧が待ち受けている。人間が関わることなく判断が下されるようになれば、AIが勝手に攻撃対象を決めて遂行する。
そもそもAIが学習した素材にゆがみや不十分さがあるとどうなるのか。あるいは、人間が間違いをどこかで修正する余地はあるのか。
AIを搭載した兵器は核兵器と同程度の脅威にもなり得るわけだが、アンデュリル・インダストリーズの場合は「そんな心配は自分たちの知ったことではない」というスタンスだ。テクノロジー界の内側から、脅威が生まれつつあるのをことさらに感じてしまう。
＊本連載は毎週火曜日に掲載予定です。
（文：瀧口範子、写真：MATJAZ SLANIC/iStock）