Dellows News

ドライブネッツとBentausがAI電力制約に対応する共同ソリューション発表

高性能 AI ネットワーキング・ソリューションを提供するドライブネッツと、エネルギー・ファーストの NeoCloud である Bentaus 社は、共同ソリューションを発表しました。データセンターの GPU からワット当たりでより高い効率でトークンを生み出し、コンピュートを柔軟な負荷として運用することで電力制約の課題解決を支援します。Bentaus 社の AI クラスターでは、トークン・スループットの 97% を維持しながら GPU の消費電力を 30% 削減しました。

AMD Instinct GPU環境で消費電力を30%削減

Bentaus 社は、AMD Instinct™ MI325X GPU を搭載した新しい AI クラスターのバックエンド・ファブリックとして、DriveNets AI Fabric を導入しました。このクラスターは、コンピュートの電力をリアルタイムで管理する Bentaus 社の Ziani Systems プラットフォームである GPU-FLX™ および CPU-FLX™ と連携します。オープン標準に基づき、電力網の状況に応答するベンダー非依存の AI インフラを実現することで、ワット当たりのトークン数を最大化し、トークン当たりのコスト低減を図ります。

イーサネット・ベースの DriveNets AI Fabric は、スイッチから NIC、RCCL、カーネルに至るフルスタックのネットワーキング最適化を実施します。ドライブネッツと AMD 社が共同設計したリファレンス・アーキテクチャに基づき、GPU をより高い稼働率で動作させ、100 万トークン当たりの消費電力を削減します。公開ベンチマークにおいて本アーキテクチャは、公開されている結果と比べて約 5% 高いスループットと、約 12% 短い Time to First Token(TTFT、初回トークンまでの時間)を実現し、実効的なエネルギーコストを低減します。

電力網の制約に対応するデマンドレスポンスの実現

2026 年には米国の 12 を超える州でデータセンターの新設を一時停止する法案が提出され、ニューヨーク州では大規模負荷の新規許可を州全体で停止する措置が制定されるなど、電力網への負荷や電気料金に対する懸念が高まっています。Ziani により、データセンターは AI ワークロードを継続稼働させたまま GPU と CPU の消費電力を動的に引き下げ、リアルタイムで電力使用を抑制できます。これは電力網からの要請に応じて電力需要を減らすデマンドレスポンスにあたり、電力網の安定に貢献します。

Bentaus 社の創業者兼最高経営責任者(CEO)である Bob Davidoff 氏は、Ziani が電力網の状況をリアルタイムで考慮して負荷を柔軟に調整し、ドライブネッツのファブリックが GPU のネットワーク待ちを防ぐことで、電力網が維持できる電力でコンピュートを提供できると説明しています。また、ドライブネッツの創業者兼最高経営責任者(CEO)である Ido Susan 氏は、単一ベンダーのスタックに縛られないオープンなマルチベンダーの選択肢を提供し、より少ない電力でトークンを生み出す取り組みであると述べています。

米国イリノイ州シカゴで開催される SC26 において、ドライブネッツと Bentaus 社は 11 月 19 日(木)11:30(現地時間)より、AMD ブース(3028)で共同ソリューションを紹介します。

発表企業の概要は以下の通りです。

  • ドライブネッツ: サービスプロバイダーおよび AI インフラ向けの大規模ネットワーキング・ソリューションを提供。2023 年に発表したイーサネット・ベースの DriveNets AI Fabric は、InfiniBand に代わる選択肢としてハイパースケーラーや NeoCloud、企業で利用されている。詳細は drivenets.com。
  • Bentaus 社: AI インフラ・ハードウェア・ソフトウェアの開発・導入・所有・運用を手がけるエネルギー・ファーストの NeoCloud。エネルギー・オーケストレーション・プラットフォームである Ziani Systems を通じてコンピュートの消費電力をリアルタイムに管理する。詳細は bentaus.com。

本記事はドライブネッツおよびBentaus 社の発表をもとに作成されました。

アクセスランキング

今日

1週間