Mistral AIが1兆パラメータの新モデル「Mistral Large 4」公開——オープンウェイトは3週間後

フランスのAIラボMistral AIが、1兆パラメータのマルチモーダルモデル「Mistral Large 4」(ML4)を火曜日に公開しました。社内では巨体を意味する愛称「Le Chonk」で呼ばれており、Mistralはこのモデルを、米国発の閉鎖的なモデルと中国発のオープンモデルのどちらとも違う「第三の道」の体現として位置づけています。フランスのマクロン大統領がこの立ち位置を評した表現だとTechCrunchは伝えています。米中の大手ラボが巨大な計算資源を背景にモデルの規模を競い合う中、欧州発のラボが1兆パラメータ級で名乗りを上げたこと自体が、業界にとって一つの節目として受け止められています。

「第三の道」としてのMistral Large 4

ML4は1兆パラメータ規模のモデルでありながら、現時点ではオープンウェイトモデルではありません。公開直後に利用できるのはガードレール付きの公開エンドポイント経由のみで、重みそのものの提供はまだ始まっていません。背景には、欧州発のAIラボとして「閉鎖モデルのように外部から止められる存在にはしたくないが、無制限に使われるリスクも抑えたい」という、Mistral AIなりのバランス感覚があるようです。マクロン氏が語ったとされる「第三の道」という表現は、米中どちらの陣営にも与しないヨーロッパのAI戦略の象徴として紹介されています。閉鎖モデルは提供企業の都合で突然利用を止められるリスクがある一方、無制限に公開されたオープンモデルは安全保障上の悪用リスクを抱えます。ML4はこの中間に位置づけられるモデルとして設計されており、まずはガードレール付きエンドポイントで安全に使える範囲を確認したうえで、段階的にオープン化していくという二段構えの戦略を取っています。

重みの一般公開は3週間後、安全検証を経てから

Mistral AI VP ScienceのPierre Stock氏はTechCrunchの取材に対し、重みの一般公開までに約3週間を見込んでいると説明しました。この間に安全性テストを完了させ、「信頼できるパートナーや各国政府と連携し、オープンソース化された重みが防御目的にのみ使われ、悪用されないようにする」と述べています。オープンウェイトモデルは監査がしやすいという利点がある一方で、公開後の悪用対策が課題になりやすく、Mistral AIは企業や公的機関という中核顧客を抱えているだけに、ここ数カ月のセキュリティ懸念の高まりを強く意識しているとStock氏は説明しています。

画像引用元: TechCrunch

自社GPU4,000基のみで学習——競合比で大幅に少ない計算資源

もう一つの注目点は、学習に使われた計算資源の規模です。ML4はMistral AIが自前で保有する計算資源のみを使って学習されており、使用したNVIDIA GPUはわずか4,000基だとStock氏は明かしています。これは「中国の競合の2〜3分の1、閉鎖モデル系の競合と比べればさらに少ない」規模だといいます。ベンチマーク結果はまだ公表されていませんが、Mistral AIはオープンウェイト系モデルの中で(中国勢に限らず)トップクラスの性能を狙うとしており、サイバーセキュリティ、金融、さらにはチップ設計といった、顧客企業にとって重要な領域での性能を重視した調整を加えたと説明しています。

チップ設計が用途として挙げられている点は、Mistral AIの主要出資者の顔ぶれとも関係しています。シリーズCを主導したオランダの半導体製造装置大手ASML、そして先月シリーズDを約€21億(約244億ドル)の評価額で主導した韓国のSamsungです。中国製モデルのホスティングを始めた際に「単なる推論プロバイダーへの転換ではない」と説明してきたMistral AIにとって、ML4は自社がフロンティアラボであり続けるという意思表示でもあるとTechCrunchは位置づけています。限られたGPU台数で学習を終えた点は、計算資源の調達が難しい欧州の企業や研究機関にとっても、独自のフロンティアモデルを持つことが決して非現実的ではないという一つの実例になりそうです。

今すぐ使えるのはエンタープライズ向けエンドポイントだけ

現時点で一般の開発者がML4に触れる手段は、ガードレール付きの公開エンドポイント経由に限られます。重みが公開されるまでの3週間は、既存のMistralの有料プランやAPI経由での利用が中心になる見込みで、セルフホストでの検証やファインチューニングをすぐに試したい開発者は、重み公開のタイミングを待つ必要があります。企業や公的機関にとっては、オープンウェイト化される前の段階からサイバーセキュリティや金融といった重点領域での性能を見極められる点が、先行して評価を始める動機になりそうです。

欧州発のAI戦略を占う材料に

ベンチマーク結果や実際の重み公開がまだ先である以上、ML4の実力を正確に評価するのはこれからです。ただし、巨大な計算資源を持つ米中の大手ラボに対して、自社保有の限られたGPUだけで1兆パラメータ級のモデルを学習させたという点は、欧州のAI産業が独自路線を維持できるかを占ううえで注目に値します。3週間後に予定される重み公開のタイミングと、そこでの安全対策の中身は、オープンウェイトモデルの運用方針を考えるうえでも参考になりそうです。

Source TechCrunch

Mistral's new 1T model aims to leapfrog closed and open rivals

French AI lab Mistral AI has released Mistral Large 4, a new large multimodal model aiming to leapfrog both American and Chinese rivals.