夜空に浮かぶ地球をバックに、検索・コード・分析・動画を表すアイコンと中央に緑色に光る立方体のネットワーク型アイコンが並んだイラスト

記事

NVIDIA「Nemotron 3.5」新モデル群を発表——データセンターからデスクトップまでエージェントAIを拡張

NVIDIAがオープンモデル「Nemotron 3.5 Super VL」と「Nemotron 3.5 Bolt」を発表しました。視覚言語理解と高速なローカル推論を組み合わせ、企業サーバーからノートPC、エッジデバイスまで一貫してエージェントAIを動かせるようにします。

NVIDIAが公式ブログで、オープンモデル「Nemotron」ファミリーの新しいラインアップとして「Nemotron 3.5 Super VL」と「Nemotron 3.5 Bolt」を発表しました。企業のサーバーで動く大規模モデルから、ノートPCやロボットなどのエッジデバイスで動く軽量モデルまでを同じNemotronファミリーとしてそろえ、常時稼働するエージェントAIを「データセンターからデスクトップまで」一貫して支える狙いがあるとしています。

視覚言語理解に強い120Bモデル「Super VL」

Nemotron 3.5 Super VLは、1,200億パラメータのオープンモデルで、Nemotron Coalitionとの協業で開発されました。最大の特徴は、OCRや表、グラフ、構造化された視覚情報を高い精度で読み取れる視覚言語(VL)モデルである点です。ウェブページの処理やテキスト抽出、グラフの読み取り、PDFの解析までを単一モデルでこなせるため、テキスト処理と視覚理解のために別々のモデルをタスクごとに切り替える必要がなくなります。NVIDIAによれば、精度はNVIDIAの最大級の推論モデルに匹敵する水準をおよそ5分の1のパラメータ数で実現しているといい、同クラスのオープンなエージェント向けモデルの中では最速クラスの応答速度を持つとしています。学習には約26兆トークンの事前学習データに加え、約380万件のサンプルによる事後学習と、数十種類の環境を使った強化学習が投入されました。

ノートPCで動く「Bolt」、エッジ向けの超軽量版も予告

ローカル環境向けには、Hugging Faceなどで提供される「Nemotron 3.5 Bolt 74B-A9B 24GB」が用意されました。独自の2bit量子化技術により、24GBのメモリに収まるサイズでありながらエージェント的なタスクをこなせるのが特徴です。ウェブ調査や文章作成、コードのデバッグといった作業をクラウドにデータを送らずローカルで処理できる点は、プライバシーを重視する開発者や企業にとって魅力的です。さらに10月23日には、ボイスアシスタントや組み込み機器向けにメモリ使用量をさらに切り詰めた「Nemotron 3.5 Bolt E4B 4GB」も投入される予定です。

暗い宇宙を背景に地球が描かれ、その手前に検索・コード・分析・動画再生を表すアイコンと、中央に緑色に輝く立方体のネットワーク型アイコンが並んだビジュアル

画像引用元: NVIDIA Blog

規制業界や機密データを扱う現場も想定

NVIDIAはユースケースとして、保険金請求の不正兆候をスキャンしたり、与信情報を融資基準と照らし合わせて審査したりといった、データを社外に出せない規制業界での活用例を挙げています。企業サーバーでは大量かつ多段階の業務フローや複雑なツール呼び出しにSuper VLを、個人のワークステーションやノートPCではBolt 74B-A9Bにタスクを委任し、ロボットなどの物理エージェントや組み込み機器ではBolt E4Bを使うというように、デバイスの性質に応じてモデルを使い分ける設計思想が貫かれています。

主要プラットフォームとの連携も拡大

Super VLはすでにHugging FaceやOpenRouter、ModelScopeコミュニティ、そしてNVIDIA NIMマイクロサービスとして提供されており、NIMは2週間ごとにセキュリティパッチと性能改善が反映される運用になっています。AtlassianはJiraやConfluenceを横断するエージェント検索に、CrowdStrikeはセキュリティ運用の自動化に、Salesforceは政府機関向けワークフローエージェントにそれぞれSuper VLを組み込む計画を示すなど、業務ソフトウェア各社との連携も広がっています。Bolt 74B-A9Bはllama.cppやOllama、LM Studio、vLLMなど主要な推論ランタイムに対応し、10月16日に登場するNVIDIAの新しいRTX Sparkノートパソコン向けにも最適化されています。

エージェントAIの裾野を広げる動き

今回の発表で目を引くのは、単に高性能なモデルを1つ出すのではなく、サーバー・PC・エッジという3つの層に合わせてモデルサイズと特性を作り分けている点です。オープンウェイトかつデータセットや学習レシピまで公開する方針を掲げていることもあり、研究機関やスタートアップが自社用途に合わせてファインチューニングしやすい土台になりそうです。企業でAI導入を検討している担当者は、クラウド型の大規模モデルと、ローカルで完結する軽量モデルをどう使い分けるかという設計を、今回のNemotron 3.5シリーズを材料に改めて整理してみる価値があるでしょう。