AIの攻撃をAIで防御、サイバーセキュリティの“いたちごっこ”最新事情

ITmedia NEWS

124Picks

人気 Picker

山崎俊彦

東京大学大学院情報理工学系研究科電子情報学専攻　准教授

⋮

「例えば米Adobe Systemsは19年、カリフォルニア大学と協力して、「Photoshopで加工された人間の顔」を検知するツールを発表している。」

「画像だけでなく文章でも同様の例がある。MIT-IBMワトソンAI研究所とハーバードNLPの研究チームは、AIにAIが書いた文章を検知させるという実験をした。」

はい。ただ、それらも例えばAdversarial Attack (敵対的ノイズ生成)の技術によって判定を間違わせることができるということが報告されています。そして、Adversarial Attackを見破る技術の研究もどんどん進展しており、、、とまさにいたちごっこです。

Adversarial Deepfakes: Evaluating Vulnerability of Deepfake Detectors to Adversarial Examples
https://arxiv.org/abs/2002.12749

西尾素己

多摩大学ルール形成戦略研究所客員教授

⋮

まとめの部分とかはまとまってるんだけどやはりサイバーセキュリティの専門家ではいらっしゃらないので細部がかなり気になりました
リアルとは言えません

DDoS攻撃の文脈は惜しいですね
書くならBotネット構築の過程でオートマトン化しているマルウェアの増殖過程と、侵食すべきかせざるべきかを判断しているというものを取り上げるべきでしょう
上がってきたアラートを見て学習するなんて単純なものでクラウドフレアやakamaiが回避できるならだれも苦労しません
というより最近のDDoSは、一昔前までのストレステストツールを改造した参加型からDNSのリゾルバを利用したアンプ攻撃など、設定不備が目立つインフラの悪用にシフトしています
いつまでもBOT使っているチームなんてもうそうそういないと思うしトップチームはみな後者です
あとDDoSツールの購入ですが、ツール購入はもう古くてサービス型に移行しています

あと株トレードと脆弱性ハントのAI利用についての対比がありますが、これはさすがに似て非なるものです
脆弱性検出には静的コード解析やVM上で実際に動的解析をするなど様々な方法があります
単にコードやPEをデータ比較だけで脆弱性をあぶりだすのが本筋とは言えません

スズキマンジ

（株）デンソー　CX スズキマンジ事務所　代表

⋮

一般的なサイバーセキュリティより、これからは、ZOOMなどでディープ・フェイクを使ったりしたソーシャルな「なりすまし」が問題になると考えています。

リアルに面談する時には「ミッション・インポッシブル」的な変装は、今の技術を使っても難しいですが、ネット越しのデジタル画像であれば、比較的簡単に実現できます。

※個人的な見解であり、所属する会社、組織とは全く関係ありません

山田せいち

富士通フューチャースタディーズ・センター主任研究員

⋮

Alにセキュリティ預けて任せるほど信頼性は高くは無いと思う

組み合わせで使う