Dellows News

Trans-N、LLM基盤Swama 2.5.1公開 Mac上で判定処理完結

トランスエヌ株式会社は、Appleシリコン搭載Macで大規模言語モデル(LLM)をローカル実行するオープンソース基盤「Swama」のバージョン2.5.1を公開しました。OpenAI Decisions API形式の判定リクエストに対応し、文章や画像をもとにした分類や条件判定、段階評価をMac上で実行できます。対応モデルを用いた推論はMac内で完結し、クラウド推論APIを呼び出さずに利用可能です。

Macローカル環境での判定処理に対応

業務における問い合わせの担当部署への振り分けや、製品写真をもとにした損傷の有無の判定など、あらかじめ決めた選択肢や基準に沿った判断処理に対応します。

Swamaの判定用エンドポイント「/v1/decisions」を通じてAPI経由でアプリケーションから利用でき、判定結果とともにモデルによる評価値(confidence)を取得できます。なお、対応する入力形式や画像数には制限があり、confidenceは回答の正しさを保証する値ではないとしています。

社内テストによる処理速度の比較結果

社内で同じ入力を用いて処理時間を比較したところ、Mac Studio(M3 Ultra)上のSwamaは、問い合わせ30件の分類を4.5秒、製品写真30枚の損傷判定を10.5秒で完了しました。東京から呼び出したOpenAI gpt-6-lunaではそれぞれ10.1秒、12.6秒となり、本テスト条件において処理完了時間がそれぞれ約55%、約17%短くなりました。

同社CTO 兼 取締役の孫 星越(Xingyue Sun)氏は、数十ミリ秒から1〜2秒ほどの応答が求められる場面においてローカルAIはクラウドAIより適した選択肢になるとした上で、今回の公開を契機にさらに良い製品が生まれることへの期待を述べています。

測定条件の詳細は以下の通りです。

  • 測定日:2026年10月7日
  • ローカル環境:Swama 2.5.1、Mac Studio(M3 Ultra、256GB)
  • ローカルモデル:Qwen3.5-35B-A3B(4bit)
  • 比較対象:OpenAI gpt-6-luna(東京から呼び出し)
  • 処理方法:両者を同時に開始し、各側で1件ずつ連続処理
  • 計時方法:共通のローカルプロキシで計時した3回の中央値
  • テスト素材:設問はOpenAI公式ガイドの例を使用し、問い合わせ文と写真は本テスト用に用意

※本結果は上記の環境とテスト素材を用いた社内測定です。使用するモデル、入力内容、ハードウェア、ネットワーク状況などによって結果は変わり、すべての利用環境での速度・精度の優位性を示すものではありません。

提供方法と対応環境

Swama 2.5.1はGitHubで公開されています。配布アプリはAppleシリコン搭載Mac、macOS 15.6以降に対応します。Swama本体はMITライセンスで公開されており、利用するAIモデルにはそれぞれのライセンス・利用条件が適用されます。

  • ダウンロード:https://github.com/Trans-N-ai/swama/releases/tag/v2.5.1
  • ソースコード・技術ドキュメント:https://github.com/Trans-N-ai/swama

  • 会社名:トランスエヌ株式会社
  • 所在地:東京都文京区
  • Webサイト:https://trans-n.ai/

本記事はトランスエヌ株式会社の発表をもとに作成されています。

アクセスランキング

今日

1週間