KnowBe4が自律型AIエージェント向け防御システムを発表日本提供は27年度目指す

KnowBe4（本社：米国フロリダ州タンパベイ、社長兼CEO：ブライアン・パルマ（Bryan Palma））は、自律型AIエージェントの行動を保護・監視・管理する防御システム「Agent Risk Manager」を発表しました。人とAIの協業が進むなか、組織が人間とAI双方のワークフォースのリスクを定量化し、最小化できるよう支援するKnowBe4プラットフォームの中核ソリューションです。グローバル向けに展開される新製品で、日本市場への提供開始は2027年度を目指しています。

開発の背景とAgent Risk Managerの概要

企業の業務環境において「人とAI」の協業が広がり、AIエージェントが受信トレイの閲覧や機密データへのアクセス、自律的な業務実行を行う事例が増加しています。一方で、個人アカウントやシャドーAIの利用実態を把握することは多くの組織で課題となっていました。

Agent Risk Managerは、KnowBe4が培ってきた人的行動分析の手法を応用し、AIの振る舞いを可視化、分析、評価するシステムです。プロンプトインジェクションやデータ漏洩といった脅威をリアルタイムで検知・ブロックするだけでなく、リスクのある操作を行った従業員に対して問題の内容と理由をその場で即時コーチングする機能を備えています。単なるアクセス遮断にとどまらず、自発的な行動変容を促すアプローチをとっています。

3つの主要機能

Agent Risk Managerは、主に以下の3つの機能で構成されています。

可視化・検出(Discover)：ブラウザ拡張機能や主要AIプラットフォームとのAPI連携により、社内のシャドーAIやAIエージェントの利用状況を網羅的に検出してインベントリ化します。エンドポイントへの個別ソフトウェアのインストールは不要で、ユーザーによる無効化を防ぎます。
統制・制御(Govern)：検出されたリスクに基づき、セキュリティポリシーを策定・適用します。ブラウザ拡張機能を経由してAIアクセス先に対して「許可」「警告」「ブロック」の制御を実行します。
コーチング(Coach)：リスクのあるAI操作を検知した際、該当する従業員へリアルタイムに通知と解説を行い、安全な活用規範の理解を促します。

主な特長と連携機能

本ソリューションは、世界70,000社以上で利用されている共通リスクスコアにAIリスクを統合し、人的リスクとAIリスクの一元的な可視化・測定を可能にしています。

防御面では、OWASP基準の4大AI脅威であるプロンプトインジェクション、機密情報・個人情報（PII）の漏洩、過剰な自律権限（権限昇格など）、無制限のリソース消費を検知します。機密データは25のカテゴリを識別し、自動でマスキング処理が行われます。私的アカウントなどの未承認ツールに対しては、承認済みの安全な代替ツールへ誘導する制御も可能です。

また、KnowBe4の「Real-Time Coaching」と連動し、ブラウザ上だけでなくSlack、Microsoft Teams、Google Chat経由でリスク内容と安全な対処法をフィードバックします。外部連携としては、Microsoft Copilot、Anthropic Claude、Google Gemini Enterprise、OpenAI ChatGPT Enterpriseと直接連携するほか、ChromeおよびEdgeのブラウザ拡張機能とAPI連携を活用することで、専用ソフトウェアを個別にインストールすることなく導入初日から利用状況を可視化できます。

AIエージェントの出力と行動に着目

KnowBe4の最高製品責任者（CPO）であるグレッグ・クラス（Greg Kras）は、労働力の変化に伴いAIエージェントが対策すべき新しいメンバーとして加わったと指摘したうえで、「AIエージェントを守るのにプロンプトだけに注意するのは不十分です。Agent Risk Managerは、これらのエージェントの出力と行動に着目します」と述べています。

KnowBe4について

拠点：本社米国フロリダ州タンパベイ
代表者：社長兼CEO ブライアン・パルマ（Bryan Palma）
実績・規模：世界中で70,000以上のお客様に支持され、16年の実績および16年分の行動データを活用
提供領域：AIDA（Artificial Intelligence Defense Agents）と独自のリスクスコアを活用した、攻撃シミュレーションとトレーニング、メール＆コラボレーションセキュリティ、エージェントセキュリティ

本記事はKnowBe4の発表をもとに作成されています。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。