Citadel AI、AIエージェントの挙動を可視化・制御する新製品のEAPを開始

株式会社Citadel AIは、複数のAIプラットフォームを横断してエージェントの状態や挙動を可視化し、実行時のリスクを制御する「Citadel Radar for Agents」を発表した。生成AIアプリケーションの入出力を評価・制御する「Citadel Radar」の拡張版として展開される。商用サービスに先がけ、先進的な企業とともにEarly Access Program（EAP）を開始する。

従来のAIチャットなどの対話型アプリケーションに加え、本製品では外部ツールと連携して自律的に業務を実行するエージェントをリアルタイムで管理・制御できるようになる。

全社的なエージェント活用における課題

エージェントの活用を一部の社員や限定的な環境から全社へ広げる際には、業務に必要なデータやツールへのアクセスを認めると同時に安全性を確保することが求められる。その過程で、企業は複数の課題に直面する。

まず、エージェントは容易に利用開始できるため、社内で誰がどのエージェントを何の業務で利用しているかに加え、アクセス可能なデータやツール、実際の行動を含めた全体像をリアルタイムで把握・管理する必要がある。

また、外部情報に仕込まれた不正な指示（間接プロンプトインジェクション）や、指示の誤解・人間の意図との乖離（インテント・ドリフト）により、許可された範囲内の操作であっても業務本来の目的から外れた行動を取るエージェント固有のリスクが存在する。個々のアクセス可否や最終回答の確認だけでは、指示から実行までの一連の流れに潜む情報漏洩や誤動作のリスクを捉えきれないという。

さらに、Claude、Copilot、ChatGPT、内製プラットフォームなど基盤ごとに設定や管理方法が異なるため、共通ポリシーに沿った管理において運用負荷や対策のばらつきが生じやすい。加えて、指示や意図と一連の行動プロセスをトレースできなければ、インシデント発生時の原因や影響範囲の特定、適切な復旧や再発防止が遅れる原因となる。

自律性を維持しながら危険な状態と行動をコントロール

エージェントの判断や行動を一律に制限すると任せられる業務も狭まるため、業務に求められる自律性とアクセスを保ちつつ、高リスクな設定を是正し、問題につながる行動へ実行途中で介入できる仕組みが求められる。

Citadel Radar for Agentsは、「何ができる状態か」を把握するポスチャーマネジメント機能と、「いま実行する行動」を監視・制御するセッションマネジメント機能を提供する。実行前の点検に加え、利用者やその意図、それまでの操作を踏まえて指示からタスク完了までの一連の流れを評価し、業務目的からの逸脱やポリシー違反の検出、原因分析から設定やツール接続などの改善へとつなげる。

Citadel Radar for Agentsの主な特長

製品の主な特長は以下の通りとなっている。

モデル・エージェント・ツール等の可視化：MCPサーバーなどのツールを含めて資産を棚卸し、エージェント台帳を自動作成。稼働中のものに加え、作成後に放置されたエージェントも把握可能。
設定・権限の診断と是正支援：過剰な権限や接続、機密データへのアクセスなどを点検し、共通ポリシーへの適合を継続的に確認。リスクスコアとともに修正箇所を提示。
セッションの文脈に基づくリアルタイム制御：プロンプトの意図や代理行動の経緯を踏まえて行動を評価。危険なツール呼び出しのブロックに加え、業務に応じたガードレールを自然言語で定義可能。
原因・影響範囲を調べるインシデント分析：プロンプト入力から各ツールの呼び出しまでを時系列で直感的に確認でき、ブロックした操作と理由を表示。
マルチプラットフォーム対応と継続的な追随：Copilot Studio、Claude、Difyなど複数のプラットフォームに対応しセキュリティを一元管理。機能追加や変更にも継続対応。
接続するだけで統制を開始：既存のAIプラットフォームに接続するだけで、エージェントの可視化や設定・権限の点検を開始可能。

製品の詳細は製品ページ（ https://citadel-ai.com/ja/products/radar-agent/ ）で公開されている。また、開始されたEarly Access Program（EAP）では参加企業の要望を製品改善に反映し、本格展開に向けたリスク管理や運用の具体化を支援するとしており、問い合わせ（ info@citadel-ai.com ）を受け付けている。

株式会社Citadel AIの概要

会社名：株式会社Citadel AI
所在地：東京都文京区向丘 2-3-10 東大前HiRAKU GATE 3-1
代表者：代表取締役小林裕宜
設立：2020年12月10日
主な事業内容：金融・医療・製造・人材などの大手企業や国際的な認証機関向けにAIガバナンスソリューションを開発・提供
URL：https://citadel-ai.com/ja/
X(Twitter)：https://twitter.com/CitadelAI
お問合せ：info@citadel-ai.com

本記事は株式会社Citadel AIの発表をもとに作成されています。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。