Dellows News

Kong AI GatewayにAIコスト管理機能が一般提供

Kong株式会社は、Kong AI Gatewayの新機能「AI Cost Management」の一般提供を開始したと発表した。AI利用に伴うコストをチームやアプリケーション、AIエージェントに紐づけ、複数のモデルやプロバイダーにまたがる支出の把握や予算策定を支援する。

AIエージェントの普及で複雑化するコスト管理

AIエージェントが担う業務の範囲が広がるにつれ、企業ではAIの利用量やコストの予測・管理が難しくなっている。複数のAIモデルやプロバイダーを使う場合、それぞれ異なる料金体系が適用されるため、AI関連の支出を横断的に把握することが課題となる。

ガートナーは、2028年までにAIトークンの使用量を計測していない企業は、AI関連の成長目標の達成率が70%低下すると予測している。

トークン使用量やプロバイダーごとのコストを把握できても、どのチーム、アプリケーション、AIエージェントが費用を発生させているのかを特定するのは容易ではない。Kongによると、Kong AI GatewayはAIを利用するアプリケーションやエージェントとAIモデルプロバイダーの間に位置し、対応するAIの利用状況やモデル・プロバイダーの情報、リクエストのコンテキスト情報を把握できる。

コスト算出から予算管理、最適化まで

Kongによると、AI Cost Managementは、モデルやプロバイダーごとの料金体系に基づき、入力・出力トークン、キャッシュされたトークン、サービスティアなどを考慮して利用コストを算出する。費用をユーザー、AIエージェント、チーム、アプリケーション、プログラム、製品、コストセンターなどに紐づけて把握し、組織内での配賦を支援する。

また、組織の優先事項や事業上のニーズに応じた予算設定、利用量の予測、異常な利用状況の検知とポリシーの適用にも対応する。セマンティックキャッシュ、プロンプト圧縮、インテリジェントなモデルルーティングを活用し、AIの利用効率とコストの最適化を支援するという。

Kongによると、これらの機能を通じ、個々のAIモデルやプロバイダーに依存せず、組織横断でAIの利用状況と支出を把握・管理できる。

一般提供を開始

AI Cost Managementは、Kong AI Gatewayの機能として一般提供を開始している。詳細は製品案内(https://konghq.com/products/ai-cost-management)で確認できる。

本記事はKong株式会社の発表をもとに作成。

アクセスランキング

今日

1週間