暗い青緑色を背景に、スマートフォン型デバイスの画面内にノードが疎に接続されたネットワーク図と、右下に南京錠のアイコンが描かれたイラスト

記事

Liquid AI、オンデバイス向け推論エージェント「LFM2.5-24B-A2B」公開——総パラメータ24Bでも稼働は2B分だけ

Liquid AIがオンデバイスでの高速・プライベートなエージェント動作を狙ったMoEモデル「LFM2.5-24B-A2B」を公開しました。総パラメータ24Bのうち稼働は2Bのみで、Qwen3.6-35B-A3Bなど大規模モデルと肩を並べる性能をうたいます。

Liquid AIが、Hugging Faceのブログを通じて新モデル「LFM2.5-24B-A2B」を公開しました。総パラメータ数は24Bですが、1トークンあたり実際に稼働するのは2Bのみという疎なMoE(Mixture-of-Experts)構成で、オンデバイスで動かし続けられる「速くてプライベートなエージェント」を狙って設計されています。推論の前にまず考える、いわゆる思考連鎖(チェーン・オブ・ソート)を常に行い、ツール呼び出しや複数ステップのタスクも主要なエージェントハーネス上でこなせるとしています。

モデル概要とベンチマーク

Liquid AIは、約50%多い総パラメータ・稼働パラメータを持つQwen系の「Qwen3.6-35B-A3B」と比較しても競争力があると説明しています。実際、エージェント性能を測るLiveClawベンチマークでは48.09点を記録し、Qwen3.6-35B-A3Bの38.19点を上回りました。AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Bankingというツール利用・エージェント系の8ベンチマークのうち5つで同等以上のスコアを獲得し、特にAutomationBenchでは次点モデルの3倍以上のスコアを記録したとしています。一方で、GPQA DiamondやHLEといった知識集約型ベンチマーク、SWE-Bench Verifiedのようなコーディング系ベンチマークでは、より大きなモデルに分があるとも述べており、知識重視のワークロードには検索やRAGとの組み合わせを推奨しています。

アーキテクチャと学習プロセス

LFM2.5-24B-A2Bは前世代「LFM2-24B-A2B」の構成を引き継ぎ、40層・64エキスパート構成のMoEブロックでtop-4ルーティングを採用しています。コンテキスト長は32Kから131Kトークンへ拡張され、トークナイザーの語彙も6万5000から12万8000へと倍増し、非ラテン文字言語のトークナイズ精度を高めています。前世代と異なり、本モデルは常にチェーン・オブ・ソートを出力する「推論専用」モデルとして設計されました。事前学習は約17兆トークンから約33兆トークンへ拡大され、中間学習では32Kコンテキストで2000億トークン、131Kコンテキストで3000億トークンを追加投入し、数学・コード・多言語データや長文コンテキストデータを重点的に扱っています。事後学習はSFT、教師モデルの専門特化、非エージェント系の多領域オンポリシー蒸留、エージェント系の多領域オンポリシー蒸留、そしてOpenClawやHermes Agent、Pi、OpenCodeなど実際のエージェントハーネス内で学習するエージェント強化学習という5段階で構成されています。

白を背景に、セリフ体で大きく「LFM2.5」、その下にやや小さく「24B-A2B」と書かれたタイポグラフィ画像

画像引用元: Hugging Face Blog

推論速度とエコシステム対応

エッジ推論の速度も強調されています。Apple M5 Maxでは184トークン/秒、Ryzen AI Max+ 395では114トークン/秒を記録し、比較対象のMoEモデルの中では最速で、メモリ使用量も最小だったとしています。GPU推論でも、単体のNVIDIA B300上で高い同時実行数のもと毎秒2万1000トークン以上を出力できるとしており、同クラスのモデルの中では最速だと位置づけています。対応エコシステムも広く、llama.cpp、MLX、vLLM、SGLang、ONNXでの利用が初日から可能です。

使い方

モデルはLFM2.5-24B-A2BとベースモデルのLFM2.5-24B-A2B-Baseの両方が、オープンウェイトとしてHugging Face上で公開されています。利用にはtransformersの5.0.0以上が必要で、pip install -U transformersでインストールした上で、通常のAutoModelForCausalLM・AutoTokenizerの手順で読み込めます。ローカルでOpenAI互換のバックエンドとして立てたサーバーをHermes Agentなどのエージェントハーネスから呼び出す構成も用意されており、ポート番号はllama.cppやMLXが8080、vLLMが8000、SGLangが30000、LM Studioが1234と、利用するバックエンドによって異なります。

オンデバイスAIを検討する開発者へ

日本国内でも、顧客データを外部のAPIに送らずに手元のPCやサーバーだけでエージェントを完結させたいというニーズは増えています。LFM2.5-24B-A2Bのように稼働パラメータを絞ったMoE設計は、ノートPC程度のハードウェアでもエージェント用途に耐えうる速度を出せる可能性を示しており、クラウドAPIのコストやレイテンシーを抑えたい開発チームにとっては試す価値のある選択肢になりそうです。コンテキスト長が131Kトークンまで拡張されている点も、長文の社内ドキュメントを読み込ませて業務エージェントを組みたい場合には扱いやすく、まずはローカル環境で検証してから本番導入を判断するという段階的な採用の仕方とも相性が良さそうです。