0:00 0:00
記事
NVIDIAのAI優位性はGPUの外へ——「Vera Rubin」がデータ移動を3倍以上改善と報道
TechCrunchは、NVIDIAのAI分野での優位性がGPU単体からシステム全体のオーケストレーション能力へと広がりつつあると報じました。新アーキテクチャ「Vera Rubin」でのデータ移動効率化が焦点です。
TechCrunchは、NVIDIAのAI分野における優位性が、GPU単体の性能から「システム全体をどう効率よく組み合わせるか」というオーケストレーション能力へ広がりつつあると報じました。同社の直近決算発表を受けて、投資家の間でもNVIDIAの強みの捉え方が変化しつつあるとされています。AIの計算需要がギガワット規模へと膨らむ中で、GPU以外の要素が競争力を左右する新たなレイヤーとして注目され始めています。
決算発表後に投資家の見方が変化
これまでNVIDIAの優位性は、GPUそのものの演算性能にあると広く理解されてきました。しかし直近の決算発表を経て、その見方に変化が生じているとTechCrunchは伝えています。AI計算のスケールがギガワット単位に達する規模へと拡大するにつれ、単体のチップ性能だけでなく、大量のコンポーネントをいかに無駄なく連携させるかという「システム全体の設計力」が、競争優位の新たな源泉になりつつあるという指摘です。
「Vera Rubin」アーキテクチャの構成要素
NVIDIAが展開を進めているのが、新アーキテクチャ「Vera Rubin」です。GPUだけでなく、独自設計の「Vera」CPUや、推論アクセラレータの「Groq 3 LPX」など、複数のコンポーネントを組み合わせて構成されています。単一のチップの性能を追求するのではなく、CPU、GPU、専用アクセラレータをどう組み合わせて全体最適を図るかという設計思想が、このアーキテクチャの特徴といえます。ステージで公開されたラック実機には、これらのコンポーネントが基板単位で積み重ねられている様子が確認でき、単体チップの展示ではなく「システムそのもの」を見せる演出になっている点も印象的です。
これまでのGPU単体の性能競争では、演算コアの数やクロック周波数、メモリ帯域といった指標が主な比較対象でした。しかしAIクラスタがギガワット規模へ拡大するにつれ、個々のチップ性能の差よりも、数万から数十万台規模のGPUをいかに無駄なく稼働させ続けられるかという運用効率の差が、実際のコスト差として顕在化しやすくなっています。NVIDIAが公開したVera Rubinの設計は、こうした大規模運用を前提にした最適化の一例といえそうです。
画像引用元: TechCrunch
カギはデータ移動の効率化、「トークン当たりワット数」に直結
記事の中でNVIDIAのストレージ技術担当バイスプレジデントは、「Vera CPUにより、これらの操作で3倍以上の改善が見られました」と述べたと報じられています。メモリの容量自体は年々増えているものの、そのデータを適切なタイミングでGPUに届けられるかどうかが実際のボトルネックになっているといいます。このデータ移動の効率化は、AI推論における「トークン当たりの消費電力」の削減に直結するとされ、電力コストが重くのしかかるデータセンター運用者にとって無視できない指標です。
OpenAIなど競合も同じ課題に取り組む
TechCrunchによれば、OpenAIが手がける「Jalapeño」と呼ばれるチップも、同様にシステム全体のデータ移動効率という課題に取り組んでいるとされています。ただし現段階では、NVIDIAがこの分野で優位に立っているとみられています。競争の軸は単体のGPU性能から、CPU・GPU・アクセラレータを含めたシステム全体の効率性というレイヤーへと移りつつあるようです。自社チップの開発を進める大手AI企業が増える中で、NVIDIAが長年培ってきたシステム統合のノウハウは、簡単には模倣しにくい強みとして機能しているとみられます。
大規模にAIを運用する事業者ほど影響が大きい
GPU単体の性能比較だけを見ていると、こうしたシステムレベルでの競争の変化は見えにくくなります。自社でAI基盤を構築・運用する企業やクラウド事業者にとっては、今後の調達判断において、チップ単体のスペックだけでなく、データ移動を含めたシステム全体の効率性を評価軸に加える必要が出てきそうです。電力コストの上昇が続く中、「トークン当たりワット数」がインフラ選定の重要な指標として定着していく可能性があります。
データセンターの電力供給網の拡張には数年単位の時間がかかるため、限られた電力の中でどれだけ多くの推論をこなせるかは、今後のAI事業者にとって死活問題になりつつあります。GPUの世代交代を待つだけでなく、CPUとGPUの間のデータ移動という地味な部分の改善が、結果として大きなコスト差を生む時代に入ったといえそうです。今回の報道は、AIインフラの競争軸が単体チップの性能比較からシステム全体の設計力へと移りつつあることを改めて示す事例といえます。
Nvidia's AI advantage is moving beyond the GPU
The new generation of data center systems is increasing efficiency with smarter traffic control instead of just more processor cycles.
