SherLOCK、相次ぐサイバー攻撃を背景にAIエージェント向けAIレッドチーミングテスト提供を本格化
SherLOCKがAIエージェント向けAIレッドチーミングテストの提供を本格化
CATEGORY: テクノロジー
東京都港区に本社を置くSherLOCK株式会社は、企業が業務に導入するAIエージェントを対象とした「AIエージェント向けAIレッドチーミングテスト」の提供を本格化します。外部サービスや業務システムと接続して自律的に操作を実行するAIエージェントへの疑似攻撃を通じ、潜在的な脆弱性を可視化することで企業の安全なAI活用を支援します。
AIエージェントの普及に伴う新たなセキュリティリスク
国内企業を標的としたサイバー攻撃が相次ぎ、AI技術の進展に伴って攻撃の準備や流出情報の分析が効率化される可能性が指摘されるなか、企業を取り巻くセキュリティ環境は複雑化しています。また、企業のAI活用は従来の文章生成や情報検索から、外部サービスや業務システムと連携して自律的に業務を遂行するAIエージェントへと拡大しています。
AIエージェントはメールや外部文書からの情報取得に加え、APIを介して社内システムへアクセスし、データ更新やファイル操作まで実行します。これにより、AIエージェントそのものが企業システムへの新たな攻撃面（アタックサーフェス）となるリスクが生じています。具体的には、読み込む情報自体が攻撃経路となること、業務システムへのアクセス権限を保持していること、複数のツールやシステムを横断することで被害が連鎖するおそれがあることなどが要因として挙げられます。
疑似攻撃をソフトウェアで自動化し一連の動作を検証
提供を本格化するAIエージェント向けAIレッドチーミングテストは、攻撃者の視点から疑似攻撃を行い、脆弱性やセキュリティ対策の有効性を検証するサービスです。攻撃シナリオの生成から実行、結果の評価までをソフトウェアで自動化しているため、AIエージェントの改修や連携先追加の際にも同一基準で繰り返し検証が可能です。
AIモデル単体だけでなく、外部情報の取得から業務システムと連携した実行までの一連の動作を対象としており、主な検証領域には以下の項目が含まれます。
- プロンプトインジェクション等によるAIエージェントへの不正な指示・動作誘導
- 機密情報の漏えい・不正なデータ操作
- APIや外部サービス、認証・連携機能などに起因する外部ツール・システム連携に伴う脆弱性
- 自律的な判断・実行の悪用による複合的な攻撃での被害拡大
検証結果をもとに、企業が優先的に対処すべきリスクを可視化し、導入や運用に向けた対策を支援します。
今後の展開と安全な環境づくりへの取り組み
SherLOCK株式会社はこれまで、企業向けにAIレッドチーミングテストを提供してきたほか、金融・製造・ヘルスケア領域でAIセキュリティ・ガバナンスソリューションの提供を進めています。今後はAIエージェントの業務利用拡大に合わせて本テストの提供を強化し、AI特有のリスクと既存のサイバーセキュリティ上のリスクの双方に対応できるよう支援していく方針です。
代表取締役CEOの築地テレサは、AIエージェントが攻撃を受けた際の影響が企業活動に直接及ぶ可能性があるとし、「AIモデルの安全性・セキュリティリスクを確かめるだけでなく、AIエージェントが攻撃を受けたときに実際に何が起こり得るのかを検証しておくことが重要です」とコメントしています。
SherLOCK株式会社 会社概要
- 会社名：SherLOCK株式会社 (SherLOCK, Inc.)
- 代表者：代表取締役CEO 築地テレサ
- 設立日：2024年01月
- 所在地：〒105-0001 東京都港区虎ノ門五丁目9番1 麻布台ヒルズ ガーデンプラザB 5階 TOKYO VENTURE CAPITAL HUB内
- 事業内容：AIセキュリティ・ガバナンスソリューション開発・販売
- URL：https://shlck.com/
本記事はSherLOCK株式会社の発表をもとに作成されています。
ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。
