2023/6/12

AIネイティブの時代、企業が備えるべきリスクとは

宇野 浩志
NewsPicks Brand Design / Senior Editor
 画像生成から文章の要約、対話、プログラムコードの自動生成まで、この1年間のジェネラティブAIの進化がすさまじい。

 2022年11月にリリースされた「ChatGPT」（OpenAI）に続き、2023年2月には「Bard」（Google）、「LLaMA」（Meta）などの対話型AIも登場。その機能はさまざまなアプリに組み込まれ、ビジネス活用も急加速している。

 大規模言語モデルの飛躍的な進歩によって、プログラム言語を使わなくても、私たちが日常的に使っている言葉でAIと対話ができるようになった。AIは、非エンジニアどころか、子どもたちにも扱えるツールになったのだ。
生成AIは何を変えたのか
  • 「AIネイティブ」の時代が始まった
  • 小学生にどうプロンプトを教えるか
  • 対話のコツはどう変わる？
  • 新しいAIの“新しいリスク”
  • 効率化の先にあるAIの価値
 それを肌で感じたのが、この春にPwCコンサルティングの東京オフィスで開催された社内イベントだ。
 これは従業員とその家族である小中学生を対象に、対話型AIと画像生成AIを使って絵日記をつくるワークショップ。
 簡単なチュートリアルを受けた子どもたちは、すぐに応用を利かせ始め、たった2時間でコツをつかんで、プロンプトを工夫しながら思い思いの絵を描いていた。
PwCコンサルティングで開かれた社内限定イベント。従業員と小学3年生〜中学生の親子約50名が参加し、ChatGPTやStable Diffusionなどの生成AIを体験した。
 ただ、一方でAIの利用には懸念もある。情報保護やAI倫理などのガバナンスリスクの観点から、国や企業によっては生成AIの利用を禁止する動きも出始めた。あまりにも急激な変化に、人や制度が追いついていないのだ。
 爆発的に広まりつつある生成AIは、これまでとどう変わり、扱ううえでどんなリテラシーが必要なのか。新しいテクノロジーの黎明期に起こる過度の期待や不安にとらわれず、うまく活用するポイントはどこにあるか。
 ここからは、前出の親子イベントの企画者であり、長年AI領域に携わってきたPwCコンサルティングの三善心平氏、木村俊介氏に聞く。

「AIネイティブ」の時代が始まった

──生成AIの研修は多くの企業が行っていますが、なぜ親子で参加するイベントにしたのですか。
三善　大人を対象にすると、「ビジネスにどう使えるのか」「どんなユースケースがあるのか」から入ってしまいますよね。でも、これから生成AIがビジネスに普及するよりも先に、子どもたちが無邪気に、当たり前のものとして使う社会が訪れます。
日系自動車メーカーで生産管理、原価管理、経営企画などに携わった後、外資系統計解析ベンダーのアナリティクスコンサルタントとして、さまざまな業界・業務課題に対するアナリティクス活用を多数リード。PwCコンサルティングではAI・マシンラーニングのビジネス活用構想策定、実証実験から仕組み化までのプロジェクトを多数手掛ける。
 新しい技術や道具は、習うよりも慣れるほうが圧倒的に早い。子どもたちにも生成AIをうまく使うコツやリスクを知ってもらいたいし、私たち大人も生成AIに触れ、理解を深めておかねばなりません。
 子どもたちの生成AIに対する反応を見ることで、われわれ自身も、よりリアルに生成AIの価値や可能性を捉えられると考えました。
木村　実際、イベントに来た子どもたちは想像以上に前のめりでした。休憩時間中も「あれ描いて、これ描いて」と夢中になって、なかなか離してくれません。
アナリティクスコンサルタントとして、統計分析、数理最適化、AI（機械学習・自然言語処理）などの技術を用いたコンサルティング業務に従事。金融、自動車、製造、製薬などさまざまな業界のプロジェクトを経験し、テクノロジーコンサルタント職の採用活動や社員研修なども担う。
 私も三善も子を持つ親なので、子どもたちの将来を考えます。実は、このイベントの前は、「人とAIが競争する社会に、次の世代はどう立ち向かえばいいんだろう」と心配になったりもしていました。
 でも、心配するまでもなく、われわれの世代とは比べものにならないスピードで使いこなしていくんだろうなと、イベント開催後に感じました。
三善　私の妻はメーカーで知財管理の仕事をしていますが、生成AIを知ったのは今年に入ってからでした。そのときすでに、小学生の娘は動画サイトで生成AIを知り、教えなくても勝手に使っていました。
 一方で、私の両親の世代になると、まだECサイトで買い物することさえままならない。同じ社会に生きていても、世代によってこれだけの差があります。技術の進化が加速するほど、世代間のリテラシー格差は開いていくのでしょうね。

小学生にどうプロンプトを教えるか

──子ども向けにアレンジされていましたが、生成AIを触ったことのある大人でもためになるワークショップでした。工夫したポイントは？
木村　最初に難しいと感じると興味を失ってしまいますから、とにかく楽しんでもらうことを心がけました。グループごとにチューターを付け、最小限のコツと注意点を伝えたあとは、実際にAIで遊んでもらいました。
三善　私がこだわったのは、子どもたちに自由に使ってもらう前に、ゴリラの絵を描くゲームを行ったことです。お題となる絵を先に提示して、どんな言葉を伝えればAIがそのとおりに描いてくれるかを試してもらいました。
子どもたちは用意された紙にプロンプトを書き込み、各テーブルのチューターが画像生成AIに入力。できた画像を見ながら言葉を調整し、理想に近づけていく。
木村　ポイントは、目に映っている絵の特徴を言語化することから始めたところ。具体的なイメージを言葉にすることで、いきなり自由に使うよりもAIが言葉をどう反映させているかをつかみやすいんです。
「マイクを持っているゴリラ」から始まり、「マイクを左手に持つ」「口を開ける」「ライトを浴びている」と、プロンプトを工夫しながら少しずつ正解に近づけていく。光の色を再現させようと、「夕日が当たって金色になったゴリラ」と表現した子もいました。
──たしかに、具体的なお題があるとプロンプトを考えやすい。でも、子どもたちの絵は精度が高すぎませんか。私もStable Diffusionでやってみましたが、うまくいかなくて。
木村　そこにはトリックがあります（笑）。今回のイベント用に、画像生成AIの学習データに重みづけをしたり、プログラムを挟んでプロンプトを英訳したりと、正解に近づくようにある程度のベースをつくってあります。
 そのうえで、子どもたちには紙に文章を書いてもらい、チューターが入力しました。下は小学生ですから、気持ち悪い絵を生成して怖がらせないように、写真ではなくイラスト風の画像を指定しました。「うまくできた」という成功体験を味わってもらいたかったからです。
三善　今回は子ども向けということもあり、まだAIの精度やインターフェースも未成熟なので人が仲介しています。ただ、ここで行ったような翻訳や調整は、あと数カ月も経てばAIサービスに組み込まれ、人を介さなくてもやってくれるようになるでしょう。
 今のAIを使うために必要なのは、自分の頭の中にある物語や登場人物、舞台設定などを言葉にするスキルです。生成AIに望み通りの処理をさせるテクニックは、「プロンプト・エンジニアリング」と呼ばれ、すでに海外では専門スキルとして重宝されています。

対話のコツはどう変わる？

──子どもたちもプロンプトの基本を教わっていましたね。AIにうまく指示するコツは？
木村　冗長な文章を避けて簡潔に伝える、情報やロジックを明確にする、考え方や答え方を例示するなど、生成AIに要求を伝えるための基本的なコツはあります。
 このポイントって、上司が部下に指示を出したり、取引先に何かを依頼したりするような対人コミュニケーションとも似ていますよね。生成AIに向き合って、自分が望むことを言語化することは、ある種のビジネス研修に近いと思いました。
三善　ひとつは伝える文章自体が、自分の意図した内容になっているか。もうひとつが、その内容がテクニカルにAIに理解しやすい配列になっているか。
 一般的に言われる狭義のプロンプトエンジニアリングは後者を指すことが多いけれど、生成AIは人間が生成した膨大なデータを学習し、その言語モデルはどんどん人間に近づいています。
 そう考えると、AIであれ人間であれ、正確に指示を伝えるコツも共通するはずです。生成AIを使った「ビジネスコミュニケーション研修」や「上司から部下への指示出し研修」みたいなユースケースはすぐに出てきそうですよね。
──さまざまな企業がユースケースを模索していますが、ビジネスへの導入は順調に進むと思いますか。
三善　この1年で企業の期待も高まりましたが、ビジネス実装という点ではまだ話題先行だと感じます。
 私たちPwCコンサルティングは、生成AIに関する技術調査やユースケースの検討、実証実験などに3〜4年ほど前から取り組んできました。
 2022年までのおもなユースケースはクリエイティブ領域で、文章を要約したり、生成AIにパッケージデザインを描かせたりするような取り組みはありました。ただ、まだクオリティが低く、「おもしろい技術」の域を出なかったんですよね。
2017年に提唱された深層学習モデル「Transformer」以降、生成AIの進化が加速した。出典：「生成AI―新たな働き方革命の波に乗る―テクノロジー最前線 生成AI（Generative AI）編 （1） 生成AIの特徴とは？」（PwCコンサルティング）より
 昨年末にStable DiffusionやMidJourney、DALL･Eなどの画像生成がバズり始めたのも、ビジネスでの実用というよりは一般ユーザーによるSNSや動画サイトでの盛り上がりでした。
 そこから画像生成や言語処理の質はどんどん向上し、ChatGPTとの対話も不自然だと感じられないレベルになったことで、ようやくビジネス活用への挑戦が増えてきました。ただ、まだ決定的なユースケースが出ていません。
 これまでのAIを見ても、日本企業はガイドラインが引かれ、リスクが明確にクリアされないと大規模な実装に踏み切れない。現状では、生成AIどころか従来の機械学習AIにおけるガバナンスさえ、まだ整備が追いついていません。
 しばらくは一般向けの生成AIモデルを社内のバックオフィス業務に使って様子を見るところが多いと予測しています。

新しいAIの“新しいリスク”

──生成AIのリスクって、具体的にはどういうことなのでしょうか。
三善　たとえば、よく言われる「責任あるAI」の議論があります。
 売り上げや市場価値をAIが予測したとしても、AIがどんなロジックで数字を出したのかがわからない。誰がその予測に責任を持つのかも定まっていません。そのため、倫理的・法的な責任を利用する企業が負わされるかもしれないのです。
木村　セキュリティ上の新しいリスクとしては、「プロンプト・インジェクション」があります。これはプロンプト・エンジニアリングを悪用して機密情報にかけられたプロテクトを解くサイバー攻撃で、すでに情報漏洩が起こっています。
 生成AIは大量のデータを学習しています。もちろん、機密性の高いデータはユーザーとの対話に使用しないように制限されていますが、生成AIは詐欺に引っかかりやすいのです。
 このように聞き方を変え、プロンプトを迂回するような質問を繰り返すと、ユーザーが入力した個人情報や、秘匿性の高い学習データが抜き出されてしまうことがあります。
──人間ならまず騙されないすり抜け方ですね。
木村　そうですよね。これを防ぐには生成AIに機密情報を入力しないこと、そして「なぜ開示してはいけないのか」という理由を学ぶ必要があります。
 先のイベントでも子どもたちに伝えましたが、生成AIの回答が正しいとは限りません。質問の答えが見つからないとき、生成AIはさも本当であるかのように嘘をつきます。
 それに、ビッグデータから抽出される回答はマジョリティの意見に偏っていて、人種やジェンダーなどに対する偏見を拡散してしまう危惧もある。
 使う側にも情報を判断するリテラシーが求められます。
三善　現在、世界69カ国で800以上ものAI政策の立案が進められているそうです。MicrosoftやGoogle、OpenAIなどのプラットフォーマーは、AI開発における社会的・倫理的なガバナンス戦略やガイドラインを策定しています。
 もっとも、一般企業がこれらの議論や動向をキャッチアップし続けるのは困難です。これからは会計や法務と同じように、リスクやガバナンスを評価する“AI監査法人”のような仕組みも必要になっていくと思います。
出典：「AI原則実践のためのガバナンス・ガイドラインver1.0」―解説編より（経済産業省「AI原則実践のためのガバナンス・ガイドラインver1.0」をもとにPwCコンサルティングが作成）

効率化の先にあるAIの価値

──リスクを踏まえたうえで、どうすれば生成AIを活用できると思いますか。
木村　どんな領域で活用するにしても、まず企業が組織の壁を薄くしていく必要があります。
 これまでのAI活用は、たとえば学習させた顧客データからレスポンスのよいレコメンドモデルをつくるようなものでした。この場合は、マーケティング業務に特化して、該当する業務だけで使うこともできました。
 しかし、今の生成AIは、人と対話することでより領域を横断しやすい。学習データが多ければ多いほど精度が高まるので、事業部だけでなく、経営企画や人事まで、組織の枠を越えた使い方ができてこそ本領を発揮するでしょう。
 この考えをさらに発展させると、それぞれの企業が独自のデータベースを持つよりも、業界全体で基盤となるプラットフォームをつくるほうが社会の声を吸い上げやすい。
 現状では、各業界の競合他社が同じようなデータを集めていますが、たとえば自動車業界でコンソーシアムをつくって学習データを共有し、さらに金融など派生する業界のデータベースとも連結していく。そういう使い方を目指していけるといいなと思います。
 あらゆるデータが統合されていて、そこから企業や個人が必要なデータを引き出して自分の業務に活用できる。まだ夢物語ですが、これが実現すれば、社会資産になりますよね。
三善　現時点で生成AIに期待されているのは、翻訳や添削、要約など、人間の工数がそのままコストや利益構造に直結するような領域です。私も短期的にはそこから導入が進むと思いますが、それだけではもったいない。
 やはり生成AIの強みは「集合知をつくること」。機械学習によって過去の経験や知識を集積し、異業種や未経験の人たちにフィードバックできる点にあります。
 たとえば日本企業の強みは「ものづくり」と言われますが、製造の現場には属人的なノウハウや経験知がたくさんあります。そのノウハウは企業の競争優位性でもありますが、うまく共有して生成AIがそのエッセンスを抽出できるようになると、人や社会も進化します。
 そんな世界に近づけていくためにも、「リスクがあるからすべてを止める」ではいけない。まずは子どもたちのように生成AIを触ってみることから、見えてくることがあると思います。
構成：武田篤典［steam］
撮影：後藤 渉
デザイン：小谷玖実
編集：宇野浩志