株式会社松尾研究所は、データサイエンスプラットフォーム「Kaggle」で開催されたAIセキュリティに関する国際コンペティション「AI Agent Security: Multi-step Tool Attacks」において、同社所属のデータサイエンティストが参加したチームが4位となり、金メダルを獲得したと発表した。

本コンペティションには世界トップレベルのデータサイエンティストや機械学習エンジニアが多数参加した。同社は、今回の受賞についてデータサイエンティストの発想力と技術力が世界的に認められたものと考えているとしている。

本コンペティションでは、ツールを利用するAIエージェントを対象に、意図しないツール操作や情報漏えいなどにつながるセキュリティ上の脆弱性を発見する攻撃アルゴリズムの開発が求められた。

参加者は、メール送信やファイル操作、HTTP通信などのツールを利用するLLMエージェントに対し、攻撃経路を探索し、未知のセキュリティ対策下でも再現可能な脆弱性を効率的に発見する手法を設計・実装し、その性能を競った。

高い精度を実証し4位入賞を達成

同チームは、用意された評価環境に対するセキュリティ上の脆弱性を発見する攻撃アルゴリズムを開発し、高い精度を実証した。その結果、上位の極めて優れた結果を収めたチームのみに授与される金メダル（4位）を獲得した。

チームに参加した株式会社松尾研究所のデータサイエンティストである力岡 友和氏は、公開されていないセキュリティ対策下でも成立する攻撃手法の検討や、モデルごとの挙動の違いを踏まえたプロンプト設計、より多くの候補を効率的に評価するための実行高速化に注力したと説明している。同氏は得られた知見を今後の研究開発にもつなげていく意向を示している。

松尾研究所は、培われた最先端の技術知見やデータサイエンスのノウハウを社内に蓄積し、今後の研究開発およびAI技術の発展に寄与していくとしている。

松尾研究所について

株式会社松尾研究所は、国立大学法人 東京大学大学院 工学系研究科 松尾・岩澤研究室に伴走し、大学を中心としたイノベーションを生み出すエコシステムを作り、大きく発展させることを目的に設立された研究所である。アカデミアから生み出される研究成果・技術の開発・実装を行い、広く社会への普及を目指して日本の産業競争力の向上に貢献している。

• 本社：東京都文京区
• 代表取締役： 川上登福
• Webサイト：http://matsuo-institute.com

本記事は株式会社松尾研究所の発表をもとに作成。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。