もし私がまだセキュリティベンダーに身を置いていて、今年中に国際カンファレンスに論文を通さないといけないなら「AIによるAIに対するソーシャルエンジニアリング」をテーマにしたいですね。
AIがアクセスできるデータ領域に対するaclの不備やうっかり喋ってしまう情報は多くあるように思いますし、何年か前にsiriから画像ライブラリの情報や連絡先を聞き出したり、ロック解除したりできるというexploitが発表されてましたよね。
高機能になればなるほど、汎用的になればなるほど攻撃はしやすいのかも知れないですね。
人間の脳のように「これは簡単に他人に教えてはいけない情報だ」等、学習させるのかaclで縛るのか、大きな課題だと思いますし、セキュリティ屋の力の見せ所だと思いますね。
なんだかメモリ破損系のexploitをいかに上手く書くかよりも、若干高いレイヤーでのtipsがこれからは鍵になりそうな気がします。
そもそも低レイヤー領域でのexploitってもうお腹いっぱい感があって、それはヒューリスティックエンジン始めかなり防ごうと思えば防げるし、一方で.net reactorでオンメモリに.net frameworkを展開されるような力技にはなかなか対策できなかったりと、なんだか「疲れる」という状況だからだと個人的には感じます。
だからといって雲の上の話ではなく、我々非研究者のメールボックスにも非常に高度なexploitは舞い込むわけです。
まぁ私が書くまでもなくみなさんご認識の通り、この低レイヤー領域でのゼロサムゲームにもAIが投入されていますよね。
本当に素晴らしい技術であると思います。
使い方次第で凶器に化けるものなんて沢山あるのだから「AIは危険だ」と言おうとは私は思いません。

社会実装という言葉は初めて聞きましたが、納得しました。

思い返せば(って、記憶にある訳じゃないけど)産業革命の時は、日本の産業革命はちょうど明治維新のころなので、社会自体も大きく変わった。そのなかで上手く産業革命後の社会が作られてきたのだと思います。まだ様々な既得権益もなかったでしょうから、法整備も順調に進んだのではないでしょうか。

しかしIT革命と言われて久しいですが、日本の社会の多くは産業革命の名残から抜け出せていない気がしています。記事にある通り法制度、社会の制度、教育制度など。中国みたいに今まさに発展しまくりの国では社会実装が早いでしようけど、日本も早く対応しないとツギハギだらけのスパゲティコード社会になってしまうかもしれません。

全面的に賛同！
>教育は、未来に生きていく人のためのシステム
> AIやコンピューティングテクノロジーがない時代に作られた規制は全面的に見直すべき

戦後日本の繁栄をもたらした工業化社会に適合するするための教育システムや内容と方法は、もはや弊害でしたかない。
未来を生きる子供たちは、毎日ランドセルを背負って学校という過去にタイムスリップしに行っている。
夏野さんの言う通り、システムを変革するには大変な労力が必要だ。ならばintelligenceを働かせ、覚悟をもって「学び」を学校現場から変革する。
AIの社会実装が本格化すると言う指摘を受け、子どもたちの未来に責任をもつ教育を展開するために、本校が取り組む５Ｇの学習基盤化に向けた実証によって、新しい教育のPerspectiveを描き出す！

先日ある方のお宅でAmazon Echoを体験。
「アレクサ、音量下げて」って言ったら自然に下げてくれたあのかんじは、住まいに馴染んでいるような、まるで一緒に暮らしているような感じがしたなあ。
Ok Googleは、人間ではないものに命令をする、って行為になってると思う。
そういう意味ではAmazon Echoのほうが欲しくなったし、ここまで技術が暮らしに浸透しとるんかよ、と感動した年末だったな。この勢いが楽しみ。

夏野さんご指摘の通り「日本ではビジネスマンが仕事にあぶれることは今後しばらくはないと言ってもいい」状況の中で、必要な改革を起こすのが凄く難しい。日本国内は問題ないかもしれないが、グローバル競争の観点からすると、ますます遅れをとってしまうのではと懸念してしまう。

まずはAIを身近に置くために、アマゾンエコーを購入するか。
AIに学習させるとはどういうことか？
AIが学習した結果、自分たちの生活や仕事がどう変わるのか？
といった実体験を持たずにAIは語れない。
社会実装について考える前に、まずは生活実装から。

どれだけ先端技術が発展しても「社会実装」されることが大事だと感じる今日この頃。そういう視点で、興味深く読ませていただきました。

経営・組織、規制、教育の３つの改革を通じてAIの社会実装を早期に実現し、生産性を上げるだけでなく、新しい形での価値創造を促進していきたいですね。経営の観点で言えば、社内プロセスの標準化とRPA、AIによる効率化・高付加価値化を推進するとともに、全ての領域の、多くの社員に共創型のプロジェクトに参画してもらい、お客様や社会の課題解決そのものに取り組んでもらえるような会社に作り変えていくことが重要です。今までの、社内プロセスのオペレーションに社員が疲弊してしまっていた会社組織から、社員が活き活きと課題解決そのものに向き合っていける組織へ。AIが仕事を奪うのではなく、全ての社員、社会人の力を課題解決に向けて解き放っていくためのAI、と捉えていくべきと思います。

AIって言葉はITが溶け込んだように溶け込む気がします。とにかくインタフェースの改革でしかないと思うんですよね。これまで自分の意思で操っていたデバイスが、手始めに声で操れたり、究極は何も言わなくても操れたり。そこまで溶け込むとAIという言葉は実装するプロが知っていれば良い言葉に成り下がって、理想的な姿になる気がします。