AI安全性を専門とする研究開発企業のKonoe Intelligence株式会社（本社:京都府京都市、代表取締役:勘佐圭吾）は、機械論的解釈可能性の知見を用いたLLM（大規模言語モデル）向けガードレールの実装方法に関する特許を取得した。同技術は、NVIDIAが開発したガードレールモデルを上回る有害コンテンツ検出率を、約330分の1の検査速度で達成している。

背景と開発の経緯

現在、LLMアプリケーションの安全性を担保する手法としては、生成された出力をさらに別のLLMに判定させる「LLM-as-a-Judge」型のガードレールや、専用の分類器モデルによる入出力の事後チェックが広く使われている。しかし、判定のたびに追加のLLM推論が発生し遅延やコストが大きい点や、モデル内部で何が起きて危険な出力に至ったのかが分からないまま運用されるという課題があった。

同社はこれに対し、モデルの重みを一切変更せず、生成の各ステップでモデル内部の表現（隠れ状態）を直接検査することで危険な出力を検出・制御する、機械論的解釈可能性に基づくガードレール技術の研究開発を進めてきた。

NVIDIA製ガードレールを上回る精度と速度

本特許技術の性能は、NVIDIAが開発した安全性判定モデル「Llama-3.1-Nemotron-Safety-Guard-8B(NemoGuard)」との比較評価によって裏付けられている。

• 有害コンテンツのブロック率 84.1%(NemoGuard:83.0%)で、比較対象の中で最高精度を達成
• 検査レイテンシは0.18ミリ秒(NemoGuard:59.5ミリ秒)と、約330分の1

NemoGuardが生成済みのテキスト全体を都度読み直して判定するのに対し、本手法はモデル内部の隠れ状態を検査するのみのため、大幅な高速化を実現している。なお、良性コンテンツの許可率はNemoGuard出力レール比でやや低く、より安全側に踏み込んで判定する特性があり、医療・金融・行政など高リスク領域での利用において有利に働くとみられている。

特許技術の特徴

今回特許を取得したのは、学習済みモデルの隠れ状態空間に安全性の境界を幾何学的な制約として学習し、生成中の内部表現を検査することでガードレールを実装する方法である。

• モデルの重みを変更しない事後的(post-hoc)手法であり、既存のモデルに追加で組み込める
• スパースオートエンコーダ(SAE)による特徴抽出を用いることで、カテゴリごとに必要な制約数を自動的に絞り込み、従来手法で必要だった網羅的なパラメータ探索をほぼ排除

この技術の理論的な裏付けとなる研究成果は、論文「LLM安全分類のための幾何学誘導型制約学習」(arXiv:2607.19366)として公開されている。

特許取得の概要

• 特許番号:特許第7909349号
• 発明の名称:学習モデル用ガードレール実装方法、学習モデル用プログラムおよび人工知能システム
• 発明者:上原 史皓、今井 冴生
• 特許権者:Konoe Intelligence株式会社(出願時社名:Aladdin Security株式会社)

今後の展望と企業情報

Konoe Intelligence株式会社は、今後も機械論的解釈可能性を用いたAIの内部検証技術の研究開発を継続し、本特許技術を含むガードレール基盤の社会実装を進めるとともに、政府機関・企業と連携しながら日本発のAI安全性評価能力の構築に取り組むとしている。

• 所在地: 京都府京都市上京区甲斐守町97西陣産業創造會館
• メール: info@konoe-intelligence
• HP：https://www.konoe-intelligence.net/contact

本記事はKonoe Intelligence株式会社の発表をもとに作成。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。