世界最大級のデータサイエンス／機械学習プラットフォームKaggleで開催された「AI Agent Security - Multi-Step Tool Attacks」(2026年6月11日〜9月1日)において、当社アルゴリズムエンジニアの生澤真司が所属するチームが、世界中から参加した4,186チームの中で4位に入賞する好成績をおさめ、金メダルを獲得しました。
AI Agent Security - Multi-Step Tool Attacksとは
本コンテストは、KaggleがOpenAI、Google、IEEEと共同で開催した、AIエージェントのセキュリティをテーマとする大会です。2026年6月11日から9月1日まで開催され、世界中から4,186チームが参加。生澤が所属するチームは、上位約0.1％にあたる4位に入賞しました。
ツールを利用しながら複数のステップで動作するAIエージェントを対象に、単一のプロンプトによる攻撃ではなく、複数の操作を組み合わせた攻撃経路を自動的に探索する「アルゴリズム型のレッドチーミング」が求められる点が、本コンテストの特徴です。
コンテストで求められたこと
参加者に求められたのは、AIエージェントを守るガードレールの脆弱性を突く攻撃アルゴリズムを設計することです。
再現可能なオフライン環境のもと、
- 非公開のガードレールの挙動をどのように推定し仮説検証するか
- ガードレールを通過しつつ、事後的には危険だと判定される操作をどのように見つけるか
- 限られた計算資源のなかで、いかに効率よく攻撃するか
といった点がポイントとなり、参加者はそれぞれの工夫を凝らして挑みました。
入賞者のコメント
生澤： 防御側では許可される一方で、評価側では危険と判定される「境界」を探る必要があり、多くの仮説を立てながらの試行錯誤が求められる問題でした。境界が見えてきた後は、地道な最適化が効いてくるという、変わった手触りのコンテストでした。