数年前から始まった第3次AIブーム。囲碁やクイズの王者を負かすような、シンボリックでありながらも、どこか実生活とは距離のある存在だった“ブーム”が、いよいよ生活に溶け込み始めている。無尽蔵のデータを栄養にAIが育つ一方、EUではGDPR（一般データ保護規則）が発効するなど個人情報の扱いが見直されている。今後AIが成熟し、さらに社会に浸透するために、クリアすべき課題は何なのか。

AIの未来を示し、牽引してきたIBMのWatson。すでにビジネスにおける実運用事例も豊富なWatsonは、どのような課題認識を持ち、どう解決してきたのか。日本IBMでワトソン・ソリューション担当を務める理事の元木剛氏に、AIを取り巻く課題と現在位置を聞いた。

AIは誰のものか

──AIは対岸や遠い未来の話題ではなく、いよいよ社会に実装され、生活の中で当たり前の存在になっていく感覚を持てるようになってきました。この流れを加速させ、より普及させるために不可欠なことは何でしょうか。
元木：大きく3つあると思いますが、特に今の動きが活発なのは、データのオーナーシップは誰にあるのか、そしてその上に成り立つAIそのものは誰のものか？というテーマです。現在の機械学習やディープラーニングを活用するAIは、多種多様で膨大なデータを読み込んで成長し、力を発揮します。だからこそ、AIでは避けられない話です。当初、特にコンシューマー向けのAIにおいては、インターネットを中心に利用可能なデータを集め、学習を続けて発展してきた背景があります。
しかし、そのデータが誰に帰属するのか、結果として得られる成果を勝手に使っていいのかといった課題認識はあいまいなままに、多くのAIが成長してきたように思います。
AIが社会に浸透し始めて、特に最近は欧州でのGDPRの動きなどもあり、ようやくデータとAIのオーナーシップについての意識に変化の動きが見られ、これまで後回しになりがちだったデータの扱いについての関心が高まっています。
特にこの1年はAIの利用が急速に本格化したため、顧客が自分たちのデータから作られたAI資産を競合他社に勝手に使われないよう強く求めるようになり、各AIプレーヤーはその対応を急いでいるようです。
元木剛 理事 ワトソン・ソリューション担当
1986年、日本アイ・ビー・エム（日本IBM）入社。大和研究所に配属。1996年、米国アイ・ビー・エム（IBM）の本社戦略企画部門へ出向。2004年、大和研究所事業企画担当、2009年、アライアンス事業OEM&EmbeddedSystems担当理事、2014年から現職。
AIの健全な成長を促進して社会実装するためには、規制等の制限が強くなりすぎないよう、さまざまな懸念を解消し広くコンセンサスを得ていく活動も必要です。
米国では2016年9月にIBMのほかAmazon、Google、DeepMind（Google）、Facebook、Microsoftの5社が、「Partnership on AI」の活動を始め、競合も含めて業界が一体となり、AI活用のベストプラクティスを発信し広める流れができました。現在は半数以上のパートナーが非営利団体からなり、9カ国から50以上の企業や団体が参加しています。
──IBMはこの先頭集団を走り続け、近年のAIブームでWatsonは象徴的な存在になっています。ブームの次の段階として、IBMが得意としてきた企業情報システムとの融合を図って、いち早く顧客のビジネスにAIを取り入れてきました。AI関連の帰属について、IBMはどのようなスタンスを取ってきたのですか。
IBMの場合は、直接コンシューマーとビジネスをするのではなく、企業向けを前提にサービスやプロダクトを構築してきたため、当初からルールを整備し明確な契約を交わした上でAIソリューションを提供してきました。
お客さま固有のデータは、パブリックなデータよりも濃密かつ大量で、いわば知見や知恵と言い換えることができます。そのため、このデータを元に生まれたAIモデルは企業ごとに固有の存在です。ですからAIモデルを導き出すWatsonのアルゴリズムはIBMが所有していますが、そのインプットとなるデータとアウトプットであるAIモデルのオーナーシップは顧客企業にあると考え、勝手に流用されないような仕組みを提供しています。
──企業ごとに固有のデータやAIモデルは、交わらないように壁で隔てているイメージでしょうか。
そうです。ですからムダなように思われるかもしれませんが、お客さまごとにカスタマイズされたAIモデルを作り、他社への横展開を禁止する考え方が基本になっています。
ただ、お客さまはあえてWatsonの一般的性能向上のためのデータ利用をopt-in/out-outで許可することも可能です。opt-inによってAI発展に貢献できるのと同時に、外との接点を持ってさらに高性能に成長したAIを自社が使用できるという見返りが期待できるのです。

根拠なきAIでは実用に耐えられない

──普及へ向けたポイント、2つ目は何でしょうか。
AIの頭の中をブラックボックス化させない、ということですね。
現在のAIの大きな特徴は、機械学習やDeep Learning（DL）などの統計的な学習技術が取り入れられたことです。DLでは脳と同じように形づくられたニューラルネットワークを何層にも折り重ねたイメージなのですが、その処理過程が大規模で複雑になってしまいます。
繰り返しになりますが、AIは読み込んだ大量のデータを元に成立しています。
ですから結果を導き出した判断に寄与したデータはどれなのかをトレースできて、根拠を明示する仕組みが必要になります。
──利用者が根拠を求めるのは、どういう場面ですか。
日常で手軽に使える画像認識や音声認識の場合、その根拠を問われる場面はあまりないので、今後もDeep Learning等の技術の適用がますます発展することが予想できます。
一方で裏付けとなる根拠が必要で、AIの判断をそのまま受け入れられない利用分野もあるため、DLでAIの精度が上がるとはいえ、どんな分野や目的にも無制限に適用できるとは考えていません。
高度な分野でAIが利用されるようになるには、信頼が必要です。中身がブラックボックスでは信頼を得ることができないので、本格的な普及は困難です。
例としては、株の自動トレードがあります。一部の取引はすでに機械化されていますが、これは人間が決めたルールに従って判断を下すので、根拠を追いやすい。ところが人間がルールを与えずとも学習したモデルに基づき自律した判断が可能なDLでは、結果に至った過程はブラックボックス化しがちです。
いつも儲かればいいかもしれませんが、損をしたときに説明ができなければ納得感が得られないし、もし問題が起きた場合に原因究明も困難でしょう。
──AIが信頼を得られるように、IBMではどう取り組んでいますか。
計算ステップなど、どのように示せば十分な根拠になり得るのかを専門的に考えている者もいて、信頼性のためには努力をしています。もちろん、専門家だけがわかる数式の塊や感覚に頼らず説明できることが必要ですね。
ここで一度、AIを何に使うのか根本に立ち返りたいのですが、私たちは時としてAIのことをAugmented Intelligence（拡張知能）と呼んだりもします。AIに任せっきりにするのではなく、あくまで人間の能力を補完しアシストする役割を果たすもの。最終的には人間が判断するというのが原則です。
医療において病名を下す場合を考えてみましょう。Watsonは医師に結果を教えるのではなく、可能性がある病名の候補を重み付けして提示し、同時にそれぞれのエビデンスを示すことで判断をアシストする仕組みを提供しています。ですからWatsonを使うためには、人間のリテラシーも問われることになるのです。

色眼鏡をどう壊すか

──人間には集積しきれない膨大な知識を取り込み、バイアスを取り除いた視座を与えるのがWatsonということですね。信頼が大事というのはもっともですが、いくらロジックがしっかりしていても、悪意あるデータを潜り込ませることで影響を受ける可能性を考えると、本当に信用に足るものなのでしょうか。
意図的なデータの偏りが起こされた場合、それに対応することは可能だと考えています。ところが、AIの利用が拡大するにつれて、いつの間にか偏ってしまっていることに気づかない可能性があり、これは非常に怖いことですね。
──例えばどういうケースが考えられますか。
AIが写真から年齢を推測するとします。モデルを作るために取り込んだデータが白人ばかりだったとしたら。日本人と比べれば白人のデータは圧倒的に多数になりがちです。決して意図して偏らせたわけではないのですが、このAIに日本人の写真を見せたら、おそらく実年齢よりも若いと判断してしまうでしょうね。
IBMは毎年、5年間のテクノロジーを予測する「5 in 5」を発表しています。2018年版の1つに挙げているのが、AIに偏向が多く見られるようになる、つまり意図しないバイアスが大きな問題になるだろうとの課題。偏向を排除したAIが強く求められると指摘しています。併せてIBMでは偏りを減らす研究が進んでいることも示しました。

Watsonがディベートで勝ったことの意味

──最後に、Watsonの最新動向を教えてください。
6月、IBM Researchが開発したシステム「Project Debater」が、世界的なディベーターと議論を戦わせました。
人間との勝負としては、2011年にアメリカのTVクイズ番組Jeopardy!（ジョパディ!）でクイズ王と対戦し、Watsonが勝利を収めたことを思い出すかもしれません。クイズは正しい答えがある前提ですが、ディベートは正解がない世界。扱うテーマが違うのです。
例えばテレビゲームが子どもに与える影響が「良い」「悪い」という話は、どちらの立場からももっともな主張が展開されます。
このシステムは大量の文献の深い学習をもとに、特定のテーマについて誰が何を言っているのか、どのようなスタンスで書かれているのか、その質はどうなのかを読み解くことができる。ディベートで勝つためには、従来型のテクノロジーでは困難なのです。
Watsonがディベートに挑む意味は、人間を負かすためではありません。人間の思考のバイアスを外し、根拠に基づいて判断するための手助けをするためのものです。Watsonが目指してきたコグニティブの世界が、また一歩前進したことになります。Project Debaterを構成する各技術は今後、Watsonの機能として正式に組み込んでいく予定です。
”Watson”の由来となっているIBM創立者トーマス・ワトソンは、「THINK」というメッセージを残しています。AIは人間の思考を置き換えるのではない、考えることを止めるためのものではない。人間はこれからも考え続けますが、コグニティブ・コンピューティングの活用によって今までとは違った頭の使い方をすることでしょう。
（取材・編集：木村剛士、構成：加藤学宏、撮影：長谷川博一）