西尾 素己
多摩大学ルール形成戦略研究所 客員教授
ジャンル:
IT・テクノロジー
もらったいいね数: 23110
幼少期より世界各国の著名ホワイトハットと共に互いに各々のサーバーに対して侵入を試みる「模擬戦」を通じてサイバーセキュリティ技術を独学。 2社のITベンチャー企業で新規事業立ち上げを行った後、 国内セキュリティベンダーでAndroidアプリから官公庁の基幹システムまで幅広い領域への脅威分析と、未知の攻撃手法やそれらに対応する防衛手法の双方についての基礎技術研究に従事。CODE BLUE 2015ではiOSに存在する未知の脆弱性と世界初となる外部ガジェットによるiOSマルウェアの検知手法について学生枠を除く最年少として登壇（その後特許取得）。大手検索エンジン企業に入社し、日々行われるサービスへの莫大なサイバー攻撃対策や社内ホワイトハット育成、キャピタルファンドへの技術協力などに従事した後2016年11月よりコンサルティングファームに参画。同時に多摩大学ルール形成戦略研究所にサイバーセキュリティ領域における国際標準化研究担当の首席研究員として着任。2017年にサイバーセキュリティの視点から国際動向を分析するYoung Leaderとして米シンクタンクに着任。 執筆、講演、顧問契約等に関するお問い合わせは多摩大学ルール形成戦略研究所まで
… 続きを読む
Picks
18フォロー
9859フォロワー
AIチャットボットを狙う「プロンプトインジェクション攻撃」 英当局が警告
西尾 素己多摩大学ルール形成戦略研究所 客員教授
うーんなんだろうなぁ
この手の新技術の脆弱性や危険性について話される時ってほんと嫌になるんだけど、別にそんなのAIからのリクエストに対してトラストアルゴリズムなりでACLかければいいはなしであって、そもそも外部入力プロンプトか否かの判定ができれば良いと言う話
こんなもんはもうすでにセキュリティ機能として開発されてて、爆発的に普及している程度の低いなんちゃってAI企業が超汎用的な言語処理エンジンを特定の用途に使っているから起こることであって、怠慢だとしか思わない
なんでいつもデカいインシデントが起きるまでセキュリティは後回しなのか
某QRコード決済アプリが学生の夏休みの課題以下のセキュリティ水準だったことももはや皆んな忘れて使ってる
嫌になりますねほんとに
生成AIの活用で想定されるセキュリティリスク--NRIが解説
西尾 素己多摩大学ルール形成戦略研究所 客員教授
aiの提供者は信頼できるか、aiにどんな情報なら投げていいのか、その返答は信頼できるか（ブラックボックス問題）、この辺が軸な気がする
マルウェア感染等はその結果として起こり得ることですからね
セキュリティの基本であるインプットとアウトプットのサニタイズで大部分は解決できる
それよりも学習データの偏りや、意図的な偏向返答を規制すべきであって、これは国家による情報統制や独裁政権による国民洗脳に繋がるから本当に良くないと思うわけです
セキュリティ云々はさ、レガシーシステムもちゃんと守れてない国なんだから民間企業があんまりまだ騒ぐようなレベルに達してない
aiとの付き合い方に時間割けるならレガシーなんとかしてよって話
NORMAL
総合トップ
マイニュース
特集
番組
トピックス
投稿したコメント