NVIDIAとSolidigmが語るAIストレージの未来:2026年以降のスピード、規模、冷却技術

ServeTheHomeのパトリック・ケネディが、NVIDIAのケビン・デーリングとSolidigmのグレッグ・マトソンとともに、AIストレージの未来について議論しています。対談の中では、現在AIインフラストラクチャで起きている最大の変化である、ストレージがAIファクトリーにおける重要なパフォーマンス層として台頭している件について、掘り下げています。 

AIがトレーニングから推論、そして今やエージェント型ワークフローへと用途が拡大するに連れて、メモリとデータインフラストラクチャに対する需要は急増しています。KVキャッシュの再利用からコンテキストメモリまで、従来のアーキテクチャではもはや対応しきれなくなっています。その理由と、GPUを最大限活用する方法として近年新たなストレージ層が台頭しつつある点について詳しくみていきます。   

また、液冷式SSD、究極の共同設計(Extreme Co-design)、フルスタックの最適化といったイノベーションが、ハイパースケールデータセンターからエッジ展開まで、AIシステムの未来を形作る様子についても意見を交わしています。 

  • インタビュアー:パトリック・ケネディ(Serve the Home) 
  • Solidigmのゲスト:グレッグ・マトソン(SVP兼製品・マーケティング担当責任者) 
  • NVIDIAのゲスト:ケビン・デーリング(ネットワーキング担当SVP)

第1章:2026年はメモリとストレージの年になる

SolidigmとNVIDIAの見解

AI革命が起きる中、ストレージの問題が浮上しており、業界でもその件について声を上げ始めています。 

2026年初頭に行われた大きな技術者の交流会では、シリコンとシステムで最も影響力のある業界関係者らの間で、ある印象的なコンセンサスが生まれました。それは、「今、メモリとストレージの重要な転換点を迎えている」というものです。

NVIDIAのSVPであるケビン・デーリングは、はっきりと次のように述べています。「今年はメモリとストレージの年です。ストレージは非常に有益な役割を果たしている階層で、非常に重要です。実際にメモリとストレージはまだ不足していますし、AIの力を発揮するためにはもっと必要でしょう。」

この意見は、AIの拡張性に関する課題の核心を突いています。 ここ数年注目を集めていた話題は、GPU、モデルアーキテクチャ、学習計算量でした。しかしモデルが大きくなり、推論の需要が爆発的に増加するにつれて、少しずつボトルネックは変化していきました。データはどこかに存在させる必要があり、それを高速に計算基盤へ届けることが、この10年で特徴的なエンジニアリングの課題となっています。

世界を牽引するNANDフラッシュメーカーの1つであるSolidigmは、かねてからこの主張を訴え続けてきました。当社の見解ははっきりしています。それは、基盤モデルの学習に必要なペタバイトから、リアルタイム推論や検索拡張生成(RAG)の低遅延な検索要求に至るまで、AIワークロードはストレージを貪欲に消費する、というものです。ストレージ階層はもはや補助的な階層ではなく、基盤なのです。

2026年がこれまでと異なるのは、緊急性と認識の拡大が同時に広がっている点です。ハイパースケーラーは先を急ぐようにAIファクトリーを次々と建設しています。そしてどのAIファクトリーでも基幹部に、毎秒何兆ものオペレーションを処理するアクセラレータに遅れず対応できるメモリとストレージを必要としています。計算能力とストレージ帯域幅のギャップは、かつてないほど明白でその影響も大きくなっています。

SolidigmとNVIDIAからのメッセージは同じです。昨今ではチップが注目を集めていますが、AIを実際に動かしているのはストレージです。

第2章:コンテキストストレージの台頭

Insert video 2

AIがスピードと規模拡大を両立するために新しい階層を必要とする理由

何十年もの間、ストレージの階層構成に大きな変化は見られませんでした。最上位は超高速のDRAM、その下に高密度で手頃な価格のNANDフラッシュ、最下層にテープまたはクラウドアーカイブが配置されるのが一般的でした。各階層には役割があり、それぞれのトレードオフも理解されていました。

しかし最近、推論のワークロードが拡大し、コンテキストウィンドウが数百万のトークンにまで広がるにつれて、DRAMや従来のSSDの設計では解決が難しい新たな構造上の圧力が台頭してきました。業界ではその中間に、巨大なAIコンテキストを保持できる十分な容量、スピードを求めるアクセラレータの要求を十分満たせる速度、そして完全な耐久性を保証するために余分な負荷がかからない階層を必要としていました。

Nvidiaのケビン・デーリングは、今起きている状況をわかりやすく説明してくれました。「現在当社では、容量と処理性能の両方を満たす素晴らしい階層を既存の階層の間に入れています。いつでも再計算できるので、耐久性がなくても問題ありません。」

最後の一文が重要なインサイトです。従来のストレージでは、データはどんな犠牲を払ってでも保存しなければいけないものと想定して作られていました。しかし、会話やタスクの内部でモデルが地に足のついた回答を返すために使われているAIコンテキスト、アクティベーション、KVキャッシュ、中間状態は、本質的には一時的にしか必要とされません。もし失くなってしまっても、バックアップからは復元せず、再計算します。この考え方により、設計の要件が全面的に変わりました。耐久性や永続性ではなく、スループットや密度が最適化されたストレージソリューション群が利用できるようになったのです。

そこでSolidigmと、より広範なNANDエコシステムは大きな商機を見出しています。AI推論の実際の読み取りパターンや書き込みパターンを軸に据えた専用コンテキストストレージは設計できます。これにより、DRAMのメモリ負荷を劇的に低減させながら、クリティカルパスに陥らない低遅延を実現できます。

ストレージ階層は別のものに置き換えられたのではなく、新しいAIワークロード向けに、新しく欠かせないレイヤーを構築したのです。  

第3章:ストレージからサーマルマネジメント(熱管理)へ

SolidigmとNVIDIAが共同で設計するAIエンジンの内部

AIファクトリーの建設は、単なる調達業務ではありません。エンジニアリングにおける「第1幕」であり、プリント基板(PCB)上の銅線トレースからサーバーシャーシ内の空気の流れまで、すべてのコンポーネントが協調して動作するよう意図的に設計する必要があります。さまざまな既製のパーツを組み合わせて上手く動くよう願う時代は終わりました。

これが、NVIDIAが究極の共同設計(Extreme Co-design)と呼んでいるものの背景にある中核的な理念であり、従来のベンダーパートナーシップをはるかに超えた手法です。NVIDIAのSVP、ケビン・デーリングは次のように説明しています。「究極の共同設計とは、市場向けに本当に最適化されたものを一緒に作り上げることです。それは適切な密度、適切な電力、適切なサーマル特性を備えていなければなりません。最も効率的なAIファクトリーを構築するためには、すべてを一体化させる必要があります。」

この話では、「究極の(extreme)」という言葉が重要な役割を果たしています。このレベルでの共同設計とは、Solidigmのようなストレージベンダーが、GPU仕様に対して単に事後的に対応するようなことではないという意味です。初期段階から議論に参加し、AIアクセラレータが周辺インフラストラクチャに求めるものを見定めるコンピュートアーキテクトと一緒に、フォームファクター、パワーエンベロープ、温度プロファイルを作ります。

密度、電力、サーマル特性は、密接に連携した三角形を形成します。消費電力に対処せずに密度を無理に高めると、性能を抑制する熱問題が発生します。反対に物理的なレイアウトを考慮せずに冷却を最適化すると、AIファクトリーの経済性を成り立たせるラック効率を犠牲にしてしまいます。あらゆる判断が連鎖しているのです。

Solidigmにとってこれは、単に机上の仕様を満たす以上のNANDソリューションを設計することを意味しています。適切な設置面積で適切な容量を確保し、適切な電力を引き出し、システムが処理できるような方法で熱を放散する、まさに実際の次世代AIインフラストラクチャに物理的にも電気的にも適合したソリューションなのです。

第4章:AIファクトリーの未来

ギガワット規模からあらゆる場所で利用できるインテリジェンスへ

AIの導入が加速するにつれ、AIファクトリーのコンセプトは、集中型ハイパースケールインフラストラクチャからグローバルに分散されたインテリジェンスプラットフォームへと急速に進化しています。グレッグ・マトソンとNVIDIAのケビン・デーリングの対談の中で、重要なテーマが浮き彫りになりました。それは、次世代のAIインフラストラクチャは、規模だけでなく、コンピューティング、ネットワーキング、ストレージ、パワーがいかに効率的に統合システムとして連携できるかによって決まってくる、という点です。

ギガワット規模のAIファクトリーは、モデル学習と大規模推論の新たな基幹となってきており、エネルギー効率、液体冷却、高性能相互接続、データ移動においてこれまでに見たことのないような進歩が必要です。課題はもはや単に大きなクラスターを構築することではなく、業界規模で継続的なインテリジェンスを生み続けられるインフラストラクチャを設計することへと移り変わっています。

それと同時に、未来のAIは大規模な集中型データセンターだけにとどまるような存在ではなくなっているでしょう。AIのインテリジェンスの活用場面は、データが作成される場所にまで徐々に広がっており、企業、工場、医療システム、金融市場、研究機関、エッジ環境全体で意思決定が行われています。

「あらゆる場所で活用できるインテリジェンス」となるために、インフラ設計の優先事項も再構築されています。AIファクトリーは、極めて大規模な集中型学習と、低遅延でリアルタイムな応答性を備えた大規模分散推論の両方をサポートできるものでなくてはなりません。

グレッグ・マトソンとケビン・デーリングが話しているように、次の時代の成功は、AIスタック全体のパフォーマンス、パワー、データアクセシビリティのバランスにかかっています。エッジからコア、クラウドまでデータを効率的にオーケストレーションできる組織が、AI革命の次の波を決める存在となれるでしょう。