株式会社ProVisionは、AIを組み込んだシステムを開発・運用する企業向けに、「AIシステム開発セキュリティコンサルティング」の提供を開始した。QA（品質保証）で培った知見を活かし、LLM、RAG、AIエージェントなどを利用するシステムのセキュリティ対策を、要件定義や設計段階から支援する。開発工程に合わせた助言や検証を行うことで、上流工程から運用までの安全なシステム構築を後押しする。

AIを組み込んだシステムでは、従来のセキュリティ対策に加えて、AIが参照できるデータや実行可能な操作範囲の制御、プロンプトインジェクション対策といったAI特有の観点を検討する必要がある。

社内文書を検索するAIにおける利用者ごとの参照範囲の制御や、外部ツールを利用するAIエージェントの操作範囲・実行環境の設計は、システム構成そのものに関わる。そのため、開発が進んでから対策を加えようとすると、設計の見直しが必要になる場合がある。本サービスは、こうした課題に対し、AIシステムの開発工程に沿ってリスクを整理し、設計段階から必要な対策の検討を支援する。

本サービスは、システムの仕様やAIの挙動から想定される脅威を洗い出し、セキュリティ要件やシステム構成を確認することで、開発の早い段階から権限やデータの取り扱いを設計に組み込めるよう支援する。

AIモデル単体にとどまらず、利用者、AIエージェント、外部ツール、参照データのつながりを踏まえてシステム全体を対象に検討を行い、入出力の制御や監査ログなど複数領域にまたがる課題にも対応する。また、開発中のガードレール設計（AIの入出力を制御する仕組みの設計）に関する助言から、テスト工程での疑似攻撃による検証、運用時の監視・監査ログ設計に関する助言まで、開発工程に応じた支援を提供する。

対象システムや工程に応じた支援メニュー

支援にあたっては、対象システムの構成や開発段階に応じて以下のメニューなどを組み合わせる。

• エージェント・実行制御評価：許可する操作の範囲、実行権限
• ツール実行・サンドボックス評価：外部API・DB接続時の認証・認可、実行環境の分離
• 入出力ガードレール設計：プロンプトインジェクション、機密情報漏えいへの対策
• 監査ログ・トレーサビリティ設計：入出力・ツール呼び出しの記録項目、ログの管理方法
• RAG・データセキュリティ設計：文書単位の権限設定、ベクトルDBへのアクセス制御
• AI Identity・IAM設計評価：利用者・エージェント・ツール間の権限、APIキー管理
• AI Red Team・セキュリティテスト：ツール悪用などを想定した疑似攻撃

なお、AIを組み込まない一般的なWebシステムや業務システムのセキュリティコンサルティングにも対応している。

同社は「AIシステム脆弱性診断」や「AIシステム品質検証」を展開しており、新サービスと組み合わせることで上流工程でのセキュリティ設計から開発後の診断・検証まで一貫して支援し、今後も企業のAI活用を開発から運用まで支えていくとしている。

株式会社ProVisionの概要

• 所在地：神奈川県横浜市西区みなとみらい2-2-1横浜ランドマークタワー40階
• 代表者：代表取締役社長　仙波 厚幸
• 設立：2005年4月
• 電話：045-872-4000
• URL：https://www.pro-vision.jp/
• 本サービスに関するお問い合わせ：https://www.pro-vision.jp/contact/

本記事は株式会社ProVisionの発表をもとに作成。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。