和田 崇

感情把握・感情予測などと呼ばれる分野は、古くは1970年代の表情解析で本格化し、現代では声だけでなく、心拍や脈拍からの予測など、かなりマルチモーダルに行われるようになっています。 それまでの表情解析では、"感情分析"というよりは表情に基づく分類が主として行われていて「笑顔=嬉しい」 「しかめ面=怒り」 など、見た目＝感情と捉えることを前提として行われてきました。評価がわかりやすい一方で、見た目だけで内面的な感情を把握するには限界があり、そうした背景から様々なアプローチが近年、AIの高度化によって開花しています。 ただ、新たなアプローチが数多く生まれ可能性が拓かれている一方、大きく２つの懸念が挙げられます。 一つはデータの不十分さです。例えば、「〇〇の声の場合は、△△という感情」「脈拍が◯◯のときは、△△の心理状態」など、声や生体反応と感情とを紐付けるデータや感情基準に統一見解と呼べるほどのものがなく、伴ってAIに学習させられるデータが表情ほど十分に存在しないという点です。 二つ目は、人権へのリスクです。上と関連した問題として、そうした不十分なデータがバイアスを持つ可能性は否定できず、人の感情を誤って判定する、評価を不正に行うことは予想されておかしくありません。こうした誤判定が個人情報と結びいた場合、人権に大きな被害をもたらしてしまいます。 先般に可決されたEUのAI法案では、こうした人の意思・思考を一方的に操作するような技術は、高リスクとして禁止されることが定められています。 感情予測は革新的なフェーズにありビジネス活用にも期待が寄せられる一方、その開発・利用には慎重さが求められることになりそうです。

漁業を行うには、漁業権という免許が必要で、一般の方が無断で水産物を採取するような行為は法律違反になってしまいます。 一方で潮干狩りや釣りなどレジャー目的の「遊漁」は、各都道府県の条例やその場所の漁業権者が設けた規則によって定められているため、全てが法律違反になるわけではありません。許可された場所であることを事前に確認することが大切になります。 ただ、確かに法律違反なので違反者が悪いとはいえ、OK・NGが場所によってまちまち、柔軟性はあるものの、それを周知しきれていない立法側にも多少の責任はあるようには思います。 なお、記事ではレジャーが密漁になるケースが取り上げられていますが、それらはまだかわいいもので、犯罪目的のより悪質な密漁こそが本来的には注目されるべき行為です。例えば、北海道の利尻では、ナマコの密漁・中国への横流しが後を絶たないと聞きます。ナマコはもはや落ちているのを拾うだけで簡単に採取できてしまう一方、乾燥ナマコなどは漢方薬として高額でやり取りされていると言います。

やや手厳しいコメントになることを承知の上で、このタイミングで日本が世界に訴えようとする「生成AIに関する国際的な枠組み」とは一体なんなのか、その内容に想像がつかないというのが率直な印象です。 「活用と課題解決」が挙げられていますが、活用に関しては欧米や中国はもちろん、韓国やシンガポールなどアジア各国と比べても遅れてしまっている状況です。一方の課題解決についても、EUや米国などからだいぶ時間を要して先般に発表されたAIガイドラインは、法的強制力はなく、良くも悪くも緩い指針を示しているのが現状の日本のスタンスです。 スピードも他国に対して遅れがち、内容的にも際立ったスタンスをとっていない日本が、OECDで世界に対して説得力を持って伝えられることとは何なのか、ただのパフォーマンスに留まってしまうのか、見守りたいと思います。

この報告のように、定期的に忘れさせる機構や、あえてノイズを加える機構をニューラルネットワークに取り入れることで、むしろ処理性能が高まるケースがあることは確かなようです。 人間の脳の不思議に迫るような成果ですが、全てを計算し尽くすような完璧過ぎる脳、言い換えれば考えなくてもいいことまで考えて疲弊してしまうような処理は、オーバースペックで無駄が多くなるということでもあって、いかに必要最低限のことだけを考えるようにするかが、人でもAIでも重要なことと思わされます。

OpenAIやAnthropicといったすでにグローバルにシェアを拡大する海外企業がある中で、"汎用"という目的において日本企業がLLMを独自開発する価値筋はどこにあるのでしょうか。 一つは、記事にもある通り、日本語対話の精度を高めていくことなのだと思います。とはいえ、"世界にとっての汎用"である限りは海外製LLMで十分でもあり、"日本人にとっての汎用"、言い換えれば日本独特の文化や流行、風習、感性などを加味することが鍵なのかと想像しています。（伴って日本マーケット専用モデルにはなってしまいますが） もう一つは、コスト・価格帯の面での勝負でしょう。海外製よりも低コストな学習・推論方法を確立する、国内製の半導体などを活用するなどありますが、かなり厳しい印象ではあります。 さらには、プロダクトやサービスへの組込みに注力する方向もあり得ます。生の状態のLLMではなく、各種メーカーが製品搭載しやすいようなパッケージ・モジュールを展開することで、利用シーンに近いところでシェアを取りに行く方向性も考えられます。 そして、最後には営業力なのかもしれません。ChatGPTが急速に浸透したのは、Microsoftの営業力に負うところはかなりあったのだと思います。KDDIが保有する3000万以上の顧客ネットワークをベースに国内攻勢をかけることの価値はありそうです。 こう考えるとLLM開発は技術力にも増して、ビジネスモデル立案のフェーズにすでに入ってきているようにも感じられます。 国内トップとも言えるLLM開発を進めておられるELYZAさん、そして新領域にチャレンジし続けるKDDIとのタッグには、ぜひ頑張って欲しいです。

闇雲に厳しくすればいいものではないとはいえ、先日に総務省・経産省が発表したAIガイドラインも法的強制力がないがゆえ、「…すべき」「…が重要」などの記載に留まっており、その運用・判断は民間側に委ねられている状況です。 とくに人権を第一に厳格なAI法案の可決に至ったEUと比べると、そのスピード、内容ともに緩やかなもので、Gartner社の警鐘も頷ける部分があります。 個人的にとくに心配があるのは、生成AIのハルシネーション問題などにも増して、顔認証をはじめとした個人の識別に加えて施される人種や性などの差別的な誤認や、思想・意思の操作や誘導につながるような悪用です。 たしかに犯罪が起きた場合には刑法などで罰せられるのでしょうが、あらかじめ想定され得る悪しき技術活用が明らかに見えている中、被害が出る前に未然に防ぐような規制整備が必要なのではないかと感じます。

「記録する」ということ自体はボイスレコーダーとなんら変わらず大きな懸念とは思えない（というか、懸念としてはこれまであったことと変わらない）ものの、問題はエッジ（端末）内ではなくクラウドに保存するという点だと思います。 デバイス独立で記録や書き起こし、メモ生成などをさせようと思うと、それなりの計算処理が必要になるため、エッジデバイス側の物理的なサイズもそれなりの大きさを確保する必要が出てきます。そのため、製品の小ささを保とうと思うと、クラウド側で処理させるのが現実的ではあります。 ただ、サイズとリスクのトレードオフ」とでも言えそうですが、やはり情報漏洩のリスクは高まっていくことにはなります。 一方、ビジネス的な観点では、ある程度の大きさがありつつもエッジデバイス独立でできるものとなると「PCでいいじゃん」という話にもなってきます。 多少のリスクは承知の上で小ささを追求することで、スキマ的なマーケットを獲りにいこうとする狙いがこのプロダクトからは窺い知れます。

BardからGeminiへの名称統合に続き、組織も統合ということでGoogleの本気度が伝わってきます。 AIをめぐっては、Googleは他社の後塵を拝している状況が続いています。生成AIではOpenAI × Microsoftに、AI用半導体ではNVIDIAや Intelに、安全性ではMetaに、デバイスではSamsungにと、かなり競争が熾烈な状況です。 Googleは検索エンジンで獲得した大量ユーザーを保有しながらも、その顧客基盤を充分に活かせていない状況で、この変革期にいかに革新的なサービス展開を行い、ユーザーリテンションにつなげていくかが問われているはずです。 今回のDeepmindへの組織集約がGoogleの反撃へとつながるか、今後に期待したいです。

いよいよ国内でのAIガイドラインが公開になりました。生成AIの隆盛を踏まえ、総務省・経産省の既存ガイドラインが統合されたもので、今後重要な位置付けになることから、文字上限の限りで主要なポイントを抜き出し所感を添えてみたいと思います。 ●＜位置付け＞ ・EUのように厳格なものではなく、活用促進の意向が読み取れる（「リスクの低減を図るとともに、AI のイノベーション及び活用を促進し」） ・法的拘束力はなく、企業努力に委ねられる（「非拘束的なソフトローによって目的達成に導くゴールベースの考え方で策定」） ・現時点で定まったものではない（「マルチステークホルダーの関与の下で、Living Document として適宜更新を行うことを予定」） ●＜対象＞ 大きく３つの主体を対象 ①AI開発者＝AIシステムを開発する事業者（データ提供者は含まれない） ②AI提供者＝AIシステムをアプリケーション、製品、既存のシステム、ビジネスプロセス等に組み込んだサービスとして利用者に提供する事業者 ③AI利用者＝事業活動において、AIシステム又はAIサービスを利用する事業者（事業活動以外でAIを利用する者は含まれない） ●＜共通指針＞ 「すべき」「期待される」「重要」など、推奨的なトーンに留まる ・人間中心（憲法が保障する又は国際的に認められた人権を侵すことがないようにすべき） ・安全性（ステークホルダーの生命・身体・財産に危害を及ぼすことがないようにすべき） ・公平性（特定の個人ないし集団への人種、性別、国籍、年齢、政治的信念、宗教等の多様な背景を理由とした不当で有害な偏見及び差別をなくすよう努める） ・プライバシー保護（プライバシーを尊重し、保護することが重要である。その際、関係法令を遵守すべき） ・セキュリティ確保（不正操作によってAIの振る舞いに意図せぬ変更又は停止が生じることのないように、セキュリティを確保する） ・透明性（AIシステム・サービスの検証可能性を確保しながら、必要かつ技術的に可能な範囲で、ステークホルダーに対し合理的な範囲で情報を提供することが重要） 以降、各主体ごとに共通指針に基づく事項に落とし込まれています↓ https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html