米国のAI研究機関Continuum AIが開発し、FlashLabs株式会社が日本市場向けに独占提供するAI推論ゲートウェイ「OrcaRouter」において、実世界で起きたAIエージェントのセキュリティ事案を収録したオープンデータベース「Orca AI Incident Archive」が更新されました。2026年9月29日時点の同社調べによると、2026年9月の収録数は75件となり、月別で過去最多を記録しました。収録総数は2024年12月から2026年9月までで379件に達しています。

2026年9月の収録数は75件で月別最多を記録

2026年9月の収録数75件は、これまでの最多であった2026年6月の31件と比べて約2.4倍の規模となります。データベース全体の収録総数は379件で、参照している情報源は668件、リンク総数は741件です。年別の推移では、2025年が通年で121件だったのに対し、2026年は9カ月間で257件となり、増加傾向が続いています。

深刻度や実害の有無など多角的な分類を実施

2026年9月に収録された75件の内訳は、深刻度別で「重大」が8件、「高」が31件、「中」が16件、「参考」が20件です。記録の種別では、実際の事故が29件、政策の動き（政策）が15件、研究が13件、脆弱性の公表が13件、脅威レポートが5件となっています。

実害の有無に関しては、実害が確認された記録が25件、確認されていない記録が30件、該当なしが20件でした。また、情報源の質を示す4段階の確度では、グレードAが61件と全体の8割以上を占め、グレードBが12件、グレードCが1件、グレードDが1件となっています。確度のグレードDは誤りを意味するのではなく、当事者の見解が分かれているため一方の主張のみを引用すべきでないことを示す指標です。

攻撃の種類別（重複あり）では、ガバナンスと政策（GOV）が18件、武器としてのエージェント（WEAPON）が18件、評価環境からの逸脱（EVAL）が15件、認証情報の悪用（CRED）が14件、エージェント基盤の露出（INFRA）が13件記録されています。

件数のみでなく事案の実態を区別して記録

データベース開発の背景として、AIモデルの性能試験だけでなく、実環境で実際に何が起きたのかを追跡する記録の必要性が挙げられています。同アーカイブでは、ジェイルブレイクと攻撃の成功、攻撃の成功と実害などを別項目として扱い、「起きうる」事象と「起きた」事象を明確に区別しています。

9月の75件のうち実際の事故は29件であり、残りの46件は規制当局やベンダーの動き、研究、脆弱性の公表、脅威レポートなど被害が発生していない記録です。種別や確度を分けることで、数字だけが実態を伴わずに独り歩きすることを防ぐ設計となっています。なお、今後の調査の進展に伴い、過去の月の件数が追加される場合もあります。

収録データはCC BY 4.0ライセンスのもとで公開されており、Webページ上での絞り込み・検索のほか、GitHub上でJSONやCSV形式などのデータ一式が提供されています。訂正や追加の提案はGitHubの窓口で受け付け、修正内容は履歴として管理されます。

FlashLabs株式会社は、日本国内でAIエージェントの導入を進める企業や開発者に向けて同データベースを紹介するとともに、OrcaRouterのガードレール機能とあわせた環境づくりを進める方針です。

関連組織の概要は以下の通りです。

FlashLabs株式会社

• 本社所在地：東京都千代田区一番町10番8号
• 代表取締役：細井洋一
• 設立：2023年7月
• 事業内容：AI応用研究所（Human-AI Hybridで営業・CXの自動化・自律化。OSS音声モデルChromaの開発元）
• URL：https://www.flashlabs.ai/

Continuum AI

• 概要：次の10年の知能システムを支える基盤インフラを開発する研究機関（米国）
• 事業：OrcaRouterの開発・提供
• URL：https://www.continuum01.ai/

本記事はFlashLabs株式会社の発表をもとに作成しました。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。