神奈川県横浜市西区に本社を置く株式会社ProVisionは、AIシステムを対象にリスクを検証する「AIシステム脆弱性クイック診断」の提供を開始した。本サービスは、AIシステムが扱うテキスト・画像・音声・文書（PDF・Office等）の入力形式に応じて、固有の攻撃シナリオや情報漏洩リスクを重点的に確認する。AIチャットボットや社内文書検索AI、RAGシステム、AIエージェントなどの導入が進む中、通常のシステムテストでは把握しにくいリスクの可視化を支援する。

生成AIやAIエージェントの活用が広がる中、AIシステムには従来のWebアプリケーションとは異なるリスクが存在している。悪意のある指示によってAIの挙動を変化させるプロンプトインジェクションや、個人情報・社内情報などの意図しない出力、RAGに登録された文書を経由した情報漏洩などが挙げられる。

また、AIシステムがテキストだけでなく、画像・音声・文書など複数の入力形式に対応するケースが増えたことで、入力経路ごとに異なる攻撃手法への対策も求められている。

入力形式に応じた重点診断

本サービスでは、入力形式を問わず重要となる共通の基礎診断と、選択した入力形式に応じた重点診断を組み合わせ、診断実施からレポート提出まで最短1週間で対応する。対象システムが扱う入力形式に応じて、以下のリスクを確認する。

• テキスト・チャット：チャットボット、カスタマーサポートAI、社内問い合わせAIなどを対象に、多言語・エンコードによるフィルタ回避、外部URLや検索結果を経由した間接的なプロンプトインジェクション、誤情報への追従などを確認する。
• 画像：画像添付に対応したチャットAI、画像解析API、画像認識機能を持つAIエージェントなどを対象に、画像内に埋め込まれた指示や、画像に写り込んだ個人情報・機密情報が意図せず処理・出力されるリスクを確認する。
• 音声：音声アシスタント、コールセンターAI、スマートスピーカー連携AIなどを対象に、音声化した指示による誤動作、音声を起点とした過剰な自動操作、雑音や背景音の誤処理などを確認する。
• 文書（PDF・Office等）：社内文書検索AI、RAGシステム、書類読み取り・要約AIなどを対象に、白文字・微小文字による指示の埋め込み、文書プロパティへの指示埋め込み、RAG経由の機密情報漏洩などを確認する。

国際指標に準拠した設計と今後の展開

本サービスは、OWASPが公開する「OWASP Top 10 for LLM Applications」を軸に、AIシステムにおける代表的なリスクを診断項目として設計している。入力経路に応じたリスクを確認することで、利用形態に即した診断を実施する。なお、診断内容や対象システムの構成により、実施期間が前後する場合があるとしている。

株式会社ProVisionは今後も、AIシステムを取り巻く新たな攻撃手法や脆弱性情報を継続的に収集・分析し、診断内容のアップデートに取り組むとともに、企業が抱えるリスクをより具体的に可視化できる診断サービスの提供を目指すとしている。

株式会社ProVisionの概要

• 所在地：神奈川県横浜市西区みなとみらい2-2-1横浜ランドマークタワー40階
• 代表者：代表取締役社長　仙波 厚幸
• 設立：2005年4月
• 電話：045-872-4000
• URL：https://www.pro-vision.jp/
• 事業内容：ソフトウェアテスト・QA事業、開発事業、DX支援事業、事業推進・BPO支援事業など

本記事は株式会社ProVisionの発表をもとに作成。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。