Dellows News

OrcaRouter、セキュリティ研究向けAIモデルのウェイトを公開

FlashLabs株式会社は、日本市場向けに独占提供する米Continuum AIのAI推論ゲートウェイ「OrcaRouter」において、セキュリティ研究者やレッドチーム、ブルーチーム向けのオープンウェイトモデル「GLM-5.3-Flash-Uncensored」のウェイトが公開されたことを発表した。

本モデルは、Z.ai社が公開したオープンウェイトLLM「GLM-5.3-Flash」(総パラメータ320B・アクティブ18B)をベースに、コンテンツフィルタリングを緩和した研究用途のモデルである。

GLM-5.3-Flash-Uncensoredは、追加学習(LoRA)や脱獄用プロンプトを使用せず、モデルのウェイトに直接拒否応答の除去を適用している。これにより、オリジナルのブロックFP8精度のまま利用できる。ベースとなるGLM-5.3-FlashはMoE(Mixture of Experts)構成を採用し、1Mトークンのコンテキストに対応するモデルとされている。

開発元の検証によると、主要ベンチマークにおける拒否率は以下のように低下したとしている。

  • MaliciousInstruct:96%から11%へ低下
  • JailbreakBench:93%から12%へ低下
  • AdvBench:97%から15%へ低下
  • HarmBench:93%から18%へ低下
  • XSTest(良性クエリの過剰拒否率):2.4%から0.4%へ低減

また、実験ではGLM-5.3-Flashのアラインメントが単一の線形な拒否方向だけでは説明できない可能性が示唆されたとしており、ネットワーク内部の表現を研究する分析対象としても位置づけられている。

AIシステムのセキュリティ検証では、攻撃者視点で脆弱性を探すレッドチームと、防御側視点で対策を検証するブルーチームの双方が実環境に近いモデルの振る舞いを確認することが重要とされる。一方で、フィルタリングを緩和したモデルには悪用リスクへの配慮が必要となる。

このため、Continuum AIはAI安全性や解釈可能性の研究、拒否メカニズムの分析といった研究用途に限定し、利用申請制とライセンス条項を組み合わせた提供方針を採用している。

提供形式と今後の展開

本モデルはHugging Face上で公開されており、ライセンス条項への同意と利用申請を行うことで、セキュリティ研究などの適正な目的に限り利用できる。今後はGGUFやMLXなどの量子化形式のバリアントも公開される予定となっている。

なお、OrcaRouterの本番システム向け機能にはPIIシールドやコンテンツポリシーなどのガードレールが標準で有効化されており、研究用途と本番利用を区別した運用が可能としている。

会社概要

FlashLabs株式会社

  • 所在地:東京都千代田区一番町10番8号
  • 代表取締役:細井洋一
  • 設立:2023年7月
  • 事業内容:AI応用研究所
  • URL:https://www.flashlabs.ai/

Continuum AI

  • 概要:基盤インフラを開発する米国の研究機関、OrcaRouterの開発・提供
  • URL:https://www.continuum01.ai/

本記事はFlashLabs株式会社の発表をもとに作成。

アクセスランキング

今日

1週間