MF Blogs 便利ツール
暗い空間の中央で緑色に光る立方体の集まりがあり、周囲の半透明のパネルと光の線でつながっている3DのCGイラスト

記事

NVIDIA CUDA 13.5公開——Vera Rubinが一般提供に、MPS v3など5つの強化点

NVIDIAがCUDA Toolkit 13.5を公開しました。Vera Rubinアーキテクチャのサポートが早期アクセスから一般提供へ移り、GPU共有を細かく制御するMPS v3、CUDA Tileの複数GPU通信、CUDA Pythonやライブラリの更新が含まれます。

0:00 0:00

NVIDIAは2026年11月4日、GPU向け開発環境の最新版CUDA Toolkit 13.5を公開しました。最大の変更点は、次世代GPUアーキテクチャ「Vera Rubin」のサポートが開発者向けの早期アクセスから一般提供(GA)に移り、企業の本番環境で使える段階になったことです。CUDA 13.4で一般提供となったWindows on Armのサポートも、NVIDIA DGX Station for Windowsに広がりました。

Vera Rubinが本番環境向けに

CUDA 13.5では、Vera Rubinを本番用途で使うための土台が整いました。あわせて、Rubin以降のGPUでのWindowsのドライバーモデルも整理されています。Rubinアーキテクチャ以降では、Windows Driver Display Model(WDDM)と、計算専用のMicrosoft Compute Driver Model(MCDM)をサポートし、従来のTesla Compute Cluster(TCC)モードはサポートされません。

TCCモードを前提にしたアプリケーションや展開ツールは、対象システムに合わせてWDDMかMCDMの構成へ切り替える必要があります。データセンターでWindowsサーバーとNVIDIAのGPUを組み合わせている場合は、Rubin世代への移行計画を立てる段階で、運用スクリプトやドライバーの設定がTCCに依存していないかを確認しておくべきでしょう。

暗い空間の中央で緑色に光る立方体の集まりが、左右に並ぶ半透明のパネルと光の線でつながっているCGイラスト

画像引用元: NVIDIA Technical Blog

CUDA 13.5の主な強化点

今回のリリースに含まれる主な変更は、次の5つに整理できます。

分野主な内容
ローカリティドメインSMの分割を「各ドメインで均一」か「利用可能なSMをすべて含める」かで選択可能に
MPS v3重み付きタイムスライス、SMパーティションの貸し借り、cgroupによる振り分けなど
CUDA Graphバッチ化した1次元メモリコピーをストリームキャプチャで記録・再利用
CUDA TileNVLink・NVSwitch上での複数GPU通信、SIMTライブラリ呼び出し(パブリックプレビュー)
CUDA Python・CCCLcuda.core 1.2のバッチコピー、CCCL 3.5のTop-K選択や再現性のあるスキャン

ローカリティドメインの強化では、新しいフラグを使うと、ドメインごとに保証されたSM数に加えて余りのSMもパーティションに含められます。パーティションの大きさは不揃いになりますが、GPUのSMをすべて使い切れます。cudaDevSmResourceSplit()の検出モードで各パーティションのSM数を取得し、作業量を配分する使い方です。

MPS v3でGPUの共有をより細かく制御

複数のプロセスで1枚のGPUを共有するNVIDIA Multi-Process Service(MPS)は、v3で制御できる範囲が大きく広がりました。重み付きタイムスライスでは、基本となる割り当て時間を決めたうえでMPSサーバーごとに倍率を設定し、計算時間を多く必要とするワークロードに長めの順番を与えられます。

SMパーティションの負荷分散では、空きがあるときに基本の割り当てを超えてSMを借りたり、クライアントがいないパーティションのSMを貸し出したりできます。ほかにも、cgroup v2のサブツリーをMPSの名前空間に対応付けて自動で振り分ける機能や、名前空間ごとにパーティションを一度設定すれば各クライアントで環境変数を設定しなくて済む仕組み、通知が届かない場合に使用量を直接読みに行くメモリ管理の代替手段が加わりました。推論サーバーを1枚のGPUに相乗りさせている環境では、効果を実感しやすい部分です。

CUDA TileとPythonまわりの更新

CUDA Tileでは、カーネルの中から直接ほかのGPUと通信できるようになりました。ユニキャストのポインタでNVLink接続された別のGPUのメモリにアクセスでき、マルチキャストのポインタではNVSwitch上の複数GPUにまたがるリダクションや書き込みが可能です。行列積とGPU間のリダクションを1つのカーネルにまとめるような処理を想定しています。

パブリックプレビューとして、cuTile PythonやCUDA Tile C++で書いたカーネルから、NVSHMEMやCCCL Coop、NVIDIA Warp、MathDxといったSIMTライブラリの関数を直接呼べるようになりました。これまではカーネルを分け、グローバルメモリ経由でデータを受け渡す必要がありました。ただし13.5で呼び出せるのはライブラリの関数だけで、自作の__device__関数はまだ対象外です。CUDA Pythonのcuda.core 1.2では、copy_batch()によるバッチ化したメモリコピーや、CUDA Graphを再インスタンス化せずに更新する機能も追加されています。

開発チームが確認しておきたいこと

CUDA 13.5はNVIDIAの開発者向けサイトからダウンロードでき、NVIDIAはローカリティドメインについてはCUDA Runtime APIのドキュメント、MPS v3についてはインターフェースガイドを参照するよう案内しています。

Vera Rubinの導入を予定している組織にとっては、本番利用の前提となるリリースです。一方、すぐにRubinを使わないチームでも、GPUを複数の推論サービスで共有している場合はMPS v3の重み付きタイムスライスとSMの貸し借りが、マルチGPU処理を自前で書いている場合はCUDA Tileの通信機能が検討対象になります。まずは開発環境で13.5に上げ、既存のビルドとテストが通るかを確かめるところから始めるとよいでしょう。