電力効率に優れたストレージの驚くべき力：最新の SSD がデータセンターをどう変えるか

AIには限界があります。AI コンピュートへの需要は尽きることがなく、そのため、電力グリッドが限界まで迫ってています。5年前、スリーマイル島の原子力発電所で最後の原子炉が廃止されたとき、その稼働が再開され、1箇所のデータセンターに電力を供給することなど、誰も予想できませんでした。しかし、これは最近、Microsoft の電力購入契約で実際に起こったことなのです。AIの電力需要という極度の難題に直面している企業は、同社だけではありません。

現在のデータセンター設計者は、新しいAIアプリケーションを導入するのであれば、1ワットの電力でも、1平方フィートのスペースでも貴重であることを理解しています。過去のハードウェアで AI を運用することは不可能です。ストレージも例外ではありません。エネルギー効率とスペース効率に優れたソリッドステートドライブ（SSD）を選択すれば、AI モデルのトレーニングや推論に必要となる電力とスペースを確保できます。

急増する AI の消費電力とデータ量

データセンターの電力効率に関する議論を始めるには、過去10年間で計算能力とデータ量が劇的に増加した事実をまず認識する必要があります。2014年当時、平均的なプロセッサーの冷却に必要な電力は100Wでした。2024年になると、その平均値は5倍以上に増加しています¹。現在の NVIDIA H100 SXM GPU の冷却には700Wが必要です²。

平均的なラック電力も、同じように増加しています。2014年の時点でラック電力は平均で約4～5kW でしたが、2024年には10～14kW に増加しています³。GPUベースの計算ラックでは、さらに多くが必要です。最近行われたOCPサミット会議では、Microsoft と Google が両社とも、数百kWから1MWまでスケーリング可能なラックを運用中であると発言しています。 

                                                                                                                                                                       マーク・ザッカーバーグ、Meta⁴

さらに、生成 AI などの AI アプリケーションは、モデル改良のためにますます大量のデータを消費するようになっており、データ量の急増を招いています。例えばCommon Crawlには、毎月30億～50億の新規ページが追加されています⁵。また、2年ごとにサイズが2倍以上に増加しているAIモデルデータセットの事例も確認されています⁶。

AIの電力消費において過小評価されているストレージ

GPUインフラに十分な電力と冷却を供給する課題が今日の注目を集めています。しかし、電力に限りがある環境では、1ワットの差が持つ意味は大きくなります。計算処理だけでなく、ストレージもデータセンターにおけるエネルギー消費において大きな比重を占めています。

例えば、Meta が公開したデータによると、AI レコメンデーションエンジンクラスタの電力消費量のうち35%は従来型ハードディスクドライブ（HDD）ストレージによるものです⁷。Microsoftのデータによれば、Azure ソリューションの運用排出量全体のうち33%はストレージによるものですが、これは電力消費に相関性があります⁸。電力に制約のある環境では、ストレージに1ワットを消費すれば、演算処理に使える1ワットを失うことになります。

大容量 SSD を採用したデータストレージは、従来のストレージと比べて少ないデバイス台数で多くのデータを保存可能です。端的に言うと、すべての条件が同じであれば、ドライブが少ないほど、消費電力も、サーバー台数も、スペースも節約することができ、結果として全体的な冷却要件が抑えられます。業界で最も大容量のデータセンターSSDであるSolidigm D5-P5336（最大容量61.44TB）は、現在の最大容量 HDD より小さい電力消費量で大容量データセットの保存が可能です⁹。

AIラック（4台のDHXサーバー）単位の使用データ量は、テキストベースの AI アプリケーションの場合は0.5～2.0PBの範囲で変動し、ビジョンベースの AI アプリケーションの場合は約16PBであることが判明しています。さらに、AIラックあたり最大32PBを打ち出しているベンダーも複数あります。以下の表では、節電効果を正確に示すため、計算ラック1架につき16PBのデータを使用することにしています。ただし、SSDによる節電効果は、必要なデータ量に応じてほぼ線形に推移する点にご注意ください。

比較のため、16PBのデータをTLC SSDキャッシュ／HDDバックエンドストレージ、またはすべてSolidigm QLC SSDで構成したソリューションでホスティングしています。

結論

すべてSolidigm D5-P5336 QLC SSDのアレイを導入した場合、データセンターで最大22.2kWの節電効果があり、16PBのAIデータ用のスペースが1.6ラック以上節約されます。実際の結果は環境によって異なりますが、一般的には、従来のストレージからQLC SSDに移行することで、AI計算用のラック1架あたり、このような電力およびスペースの節約が可能です。

NVIDIA DGX H100サーバーが10.2kWの電力を消費することを考えると、22.2kWの節電は、それほど大きな数字には思えないかもしれません。ただ、これはデータセンターで AI アプリケーション用にこのサーバーを2台多く導入できることを意味します。AI用に必要な計算ラックごとのデータ量が増えれば、電力節約効果はさらに大きくなります。

ここで、考慮すべきコストの違いについて言及しておきましょう。HDDの購入コストは従来、$/TBベースでSSDよりも低コストでした。そのため、すべてQLC SSDで構成したストレージの調達費用は、HDDより高いと考えられます。

ただし、電力に制約のある改良プロジェクトや、使用できる電力が限られている新規のデータセンター展開プロジェクトでは、ワット数を節約できるかどうかは、新たに運用開始するAIアプリケーションの成否を分ける要因となる可能性があります。

電力効率とスペース効率に関しては、最新のエンタープライズ向けSolidigm QLC SSDは、今日のデータセンターを変革しつつあります。エネルギー効率とスペース効率に優れたSSDストレージを選ぶことで、AIインフラへの投資をより有効に利用できます。