サイバーコマンド株式会社は、生成AI技術を活用したアプリケーションを対象とした脆弱性診断サービスの提供を開始した。このサービスは、「OWASP Top 10 for LLM」を参考に設計されており、未知の脆弱性発見の実績を持つホワイトハッカーが対応するのが特長だ。

近年、生成AI技術は様々な業界で普及しているが、それに伴い、生成AI技術を活用したアプリケーションの安全性確保も重要な課題となっている。特に、LLM（大規模言語モデル）を活用したアプリケーションでは、新たな種類の脆弱性が発生する可能性がある。

サイバーコマンドのサービスでは、「OWASP Top 10 for LLM」を参考にしながら、高い技術を持つホワイトハッカーがLLM特有のセキュリティリスクに対する包括的な診断を提供する。診断基準は「OWASP Top 10 for LLM」を参考にしており、具体的な改善案も提示される。また、データ漏洩、プロンプトインジェクション、ジェイルブレイクといった生成AI特有のリスクに加え、既存のアプリケーションセキュリティの課題にも対応可能だ。

診断アプローチとしては、「LLMセキュリティ診断」と「LLM利用システムセキュリティ診断」の2種類がある。前者は、GPT等のLLMを利用して構築したアプリケーションに対し、敵対的プロンプトを用いた擬似攻撃を行い、内在するセキュリティリスクを調査するサービス。後者は、LLMと連携する周辺システムに伴うリスクを総合的に調査するサービスだ。

サイバーコマンドは、これまでに数多くのエンジニアをセキュリティ案件に派遣し、現場対応からコンサルティングまで一貫して企業の伴走を行ってきた実績がある。生成AI技術が安全かつ信頼性の高い形で普及するための支援を続けていく方針だ。