経営コンサルティングのA.T. カーニー株式会社（東京都港区、日本代表：針ヶ谷 武文）は、企業のAI運用費用管理をテーマにした論考『AIを実験から企業価値へ：全社規模でAIのコスト曲線を管理する』（英題：From AI experimentation to enterprise value: managing the cost curve of AI at enterprise scale）を公開しました。企業のAI活用が実験段階から全社展開へ移行するなかで生じる運用費用の抑制策を提示しています。同社は重点領域への集中的な取り組みにより、12～18カ月で経常的なAI支出の20～40％を削減できるとしています。

費用の中心は構築から継続運用へ移行

論考によると、企業のAI関連費用は人件費、データ、推論・コンピューティング、ソフトウェア・プラットフォームの4つに大別されます。人件費が開発段階に集中する一方、推論費用は本番運用に集中し、用途が拡大するにつれて費用構成も変化していきます。負荷の高い領域としては、モデル利用料に加え、検索を支えるデータストレージやエージェント監視ツールが挙げられています。

さらに、新世代のエージェントは単純なチャットボットと比較してタスク当たり5～30倍のトークンを消費します。問い合わせ1件当たりの単価が下がった場合でも、利用量の増大によって請求総額が膨らむ可能性があるため、現状の費用と今後の増加傾向の両面を踏まえて優先順位を判断することが求められます。

領域別の削減余地と施策の一体設計

論考では、重点対象としてデータストレージ、MLOps・可観測性ツール、オーケストレーションの乱立、外部データ、推論費用の5領域を提示しています。それぞれの削減幅の目安は以下の通りです。

• データストレージ・検索：データ費用の15～40％
• オーケストレーションの統合：プラットフォーム費用の20～35％
• 外部データの調達一元化：データライセンス費用の10～25％
• 一般的なワークロードの推論費用：30～60％
• MLOps・可観測性・FinOpsツールの整備：単独で5～15％

これらは公開ベンチマークやベンダー事例に基づく目安であり、合算値ではなく自社の支出構造に照らして再評価する必要があるとしています。また、推論費用対策として有効なキャッシュとモデルの振り分けについては、別々に進めると会話途中のモデル切り替えで蓄積キャッシュが失われる懸念があるため、節約額と損失価値を比較できる一体の設計が推奨されています。

FinOpsの4段階と共通基盤の構築

削減効果を維持するための運営手法として、利用量に応じて変動するIT費用を継続的に管理・最適化するFinOpsと全社共通の運用基盤の導入が提言されています。取り組みは測定、統制、予測、最適化の4段階で継続し、用途やチーム別の費用配賦、予算・利用上限の設定、将来の利用量予測などを実施します。

全社規模での運用のために、統合された推論ゲートウェイ、コストの計測・配賦、予測・予算管理ツール、共有のデータ・検索基盤、エージェントの共有、評価・可観測性、ガバナンスといった仕組みの構築を挙げています。実践への着手点としては、今四半期に支出上位3つのAIユースケースを特定し、それぞれの費用配賦を監査することが提案されています。

論考の概要

論考の概要および監修者は以下の通りです。

• 論考名：『AIを実験から企業価値へ：全社規模でAIのコスト曲線を管理する』（論考紹介欄では『AIの実験から企業価値へ：全社規模でAIのコスト曲線を管理する』とも表記、英題：From AI experimentation to enterprise value: managing the cost curve of AI at enterprise scale）
• URL：https://www.jp.kearney.com/issue-papers-perspectives/from-ai-experimentation-to-enterprise-value-managing-the-cost-curve-of-ai-at-enterprise-scale
• 監修者：大塩 崇（シニアパートナー）、川﨑 健史（パートナー）

本記事はA.T. カーニー株式会社の発表をもとに作成されています。

Dellows News編集部

ビジネスパーソンの課題解決と納得感にこだわるDellows News編集部。キャリア論からAI、健康法まで幅広い分野に対応し、複雑なテーマでも平易な言葉で丁寧に解説。読者が「明日から使える」知識やヒントを得られるよう、具体的な事例・データ・専門家の見解を交えて執筆。情報を整理し、納得感ある記事づくりを心がけています。