FlashLabs、ローカルGPUモデルを共有API化するOrca Connectを提供開始

FlashLabs株式会社は、米国のAI研究機関Continuum AIが開発し、同社が日本市場向けに独占提供するAI推論ゲートウェイ「OrcaRouter」において、新機能「Orca Connect」の提供を開始しました。ローカルGPU上で動作するAIモデルを、ポート開放や複雑なネットワーク設定を行わずに共有AI APIとして公開できるコネクタ機能です。追加したモデルは既存のAPIキーを用いてノートPCやスマートフォン、クラウド上のエージェントから呼び出すことが可能です。

Orca Connectは、Ollama、vLLM、LM Studio、llama.cpp、SGLang、NVIDIA TensorRT-LLMという6種のローカル推論ランタイムに対応しています。マシンから外向きに1本の接続を開くだけの設計となっており、ルーターやファイアウォールの受信ポート開放やトンネル設定、NAT越えなどのネットワーク設定を行う必要がありません。

セットアップは、管理画面からのOS向けインストールコマンドの取得、orca-connect loginによるマシンの承認、orca-connect statusによる共有モデルの選択、orca-connect serveによる接続開始という4つの手順で完了します。接続が開始されると、モデルはカタログに「local/マシン名/モデル名」として追加されます。

課金の透明性とスピルオーバー機能

Orca Connectでは、自前のハードウェアが処理したレスポンスには X-Orca-Billed: false が付与され、リクエストは$0として記録されるため無料となります。課金はホスト型モデルが応答した場合のみ発生します。

また、ローカルマシンが応答できない状況に備え、あらかじめ指定したホスト型モデルが代わりに応答する「スピルオーバー」機能が搭載されています。この機能はデフォルトではオフとなっており、有効化した場合はマシンがオフラインやビジーである場合、プロンプトが長すぎる場合、ランタイムエラーが発生した場合、ツールが必要なリクエストである場合など、許可された理由のときのみ月間上限の範囲内でホスト型モデルが応答します。さらに、コード側に「gpt-4o-mini」と記述したまま、マッピングしたローカルモデルが稼働していれば自前GPUが応答する「リバーススピルオーバー」にも対応しています。

チーム共有においては、APIキーそのものを渡すのではなく、有効期限やリクエスト上限を設定した共有リンクを作成する方式を採用しています。アクセス権はいつでも取り消すことが可能です。また、キーを「ローカル専用」に設定することで、処理をローカルマシンのみに限定し、ホスト型モデルによる処理や課金を防ぐことができます。

接続は暗号化リレーを経由し、全プランでプロンプトやレスポンスをデフォルトで保存しないZero Data Retentionが適用されます。加えて、TailscaleやWireGuardを用いてリレーを迂回し、エンドツーエンドの完全プライベート接続を構成することも可能です。

各種コーディングエージェントとの連携コマンドも用意されています。orca-connect claudeを実行すると、Claude Codeがそのセッション限定でローカルモデルを使用して起動します。コマンド内の指定を変更することで、Codex CLI、OpenCode、Gemini CLI、Qwen Code、Kimi Code、Copilot CLI、Aider、Goose、piといった計10種のコーディングエージェントに対応し、エージェント自体の設定を変更することなく利用できます。

関連組織の概要

FlashLabs株式会社

本社所在地：東京都千代田区一番町10番8号
代表取締役：細井洋一
設立：2023年7月
事業内容：AI応用研究所（Human-AI Hybridで営業・CXの自動化・自律化。OSS音声モデルChromaの開発元）
URL：https://www.flashlabs.ai/

Continuum AI

概要：「次の10年の知能システムを支える基盤インフラを開発する研究機関（米国）」、OrcaRouterの開発・提供
URL：https://www.continuum01.ai/

本記事はFlashLabs株式会社の発表およびOrcaRouter公式発表をもとに作成されています。なお、Orca Connectの機能・仕様はOrcaRouter公式サイトおよび公式ドキュメント（2026年10月27日時点・当社確認）に基づき、対応ランタイムやエージェント等の仕様は今後変更される可能性があります。また、暗号化リレー、全プラン対応のZero Data Retention、Tailscale・WireGuard接続に関する仕様は、OrcaRouter公式Xアカウント（@OrcaRouter）の発表（2026年10月26日）に基づきます。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。