0:00 0:00
記事
llama.cpp、誕生から3年半でv1.0.0に到達——ggmlとともにセマンティックバージョニングへ移行
ローカルLLM推論の定番ライブラリllama.cppと、その土台のテンソルライブラリggmlがv1.0.0を公開しました。今後はC APIの破壊的変更をメジャーバージョンで示します。配布チャネルは8種類に広がり、対応アーキテクチャは150種類を超えています。
ローカル環境でLLMを動かすためのC/C++ライブラリ「llama.cpp」と、その機械学習エンジンであるテンソルライブラリ「ggml」が、2026年11月13日にv1.0.0をリリースしました。開発元のggml-orgがHugging Faceのブログで発表しています。
llama.cppは量子化や各種ハードウェア向けのバックエンド最適化により、一般向けのPCから企業のサーバーまで幅広い環境でマルチモーダルLLMを動かせるようにしてきました。プロジェクトの開始から約3年半がたち、llama.cppに依存するアプリケーションは大きく増えています。今回のv1.0.0は、そうした開発者に対する責任を明確にするための節目と位置づけられています。
画像引用元: Hugging Face Blog
破壊的変更はメジャーバージョンで示す
今回の最大の変更点は、バージョン番号の意味がはっきりしたことです。今後、llama.cppとggmlは、APIやABIの互換性が失われる変更をメジャーバージョンの更新で示します。ggml-orgは、利用が広がるにつれて、互換性の境界を下流の利用者に見えるようにすることにより厳格になると説明しています。
対象となるライブラリと公開ヘッダーは次のとおりです。
- llama.cpp v1.0.0: ライブラリは
libllama、公開ヘッダーはllama.cpp/include/ - ggml v1.0.0: ライブラリは
libggml、公開ヘッダーはggml/include/
これまでllama.cppは頻繁な更新で知られ、組み込む側はどの更新でAPIが変わったのかを自分で追う必要がありました。依存関係の管理ツールでバージョン範囲を指定しやすくなるのは、アプリ開発者にとって大きな変化です。
バージョン番号の上げ方
ggml-orgは、セマンティックバージョニングを採用するすべてのプロジェクトに次のルールを適用します。
| 変更の種類 | 上げる番号 |
|---|---|
./includeにある公開C APIの破壊的変更 | メジャー |
| 互換性を保った機能追加、バックエンドの更新、モデル対応、API追加 | マイナー |
| APIを変えないバグ修正 | パッチ |
新しいモデルへの対応やバックエンドの改善はマイナーバージョンとして扱われます。つまり、新モデルを使いたいだけなら、メジャーバージョンを固定したまま更新を取り込めるわけです。llama.cppを製品に組み込んでいる場合、更新のたびにビルドが壊れないかを確かめる手間が減ることが期待できます。
配布チャネルは8種類に
配布方法も広がっています。ブログでは、現在の配布チャネルとして次の8つを挙げています。
- プレリリース版の成果物: Linux、macOS、Windows、Android、iOS
- Docker: Linux
- Debian: Linux
- Homebrew: macOS、Linux
- conda-forge: Windows、macOS、Linux
- MacPorts: macOS
- Winget: Windows
- XCFramework: iOS、macOS
ggml-orgは、今後も配布の方法を増やしていくとしています。自分のパッケージングやリリースの仕組みにggml-orgのプロジェクトを組み込みたい場合は、GitHub上のディスカッションを確認するよう案内しています。
CIの拡充と150種類超のモデル対応
開発体制についても触れています。ソフトウェア開発でのAIの能力が急速に高まるなか、ggml-orgはLLMを開発サイクルに慎重に取り入れつつ、コードの品質とアーキテクチャの主導権、実装の理解を最優先にする方針です。
開発ペースの速さを支えるため、CIへの投資も続けています。HF BucketsやHF Jobsを使い、masterブランチに入るすべての変更の正しさを確認できる規模を確保しているといいます。NVIDIA、AMD、Qualcomm、Arm、IBM、Intelからハードウェアの支援を受け、主要なプラットフォームのセルフホストランナーも増やしています。
ggmlはハードウェアごとの専用バックエンドを実装することで、ほぼあらゆるハードウェアで動くよう設計されています。各バックエンドは動的ライブラリとしてビルドでき、実行時に読み込むことも可能です。llama.cppは現在150種類を超えるアーキテクチャのバリエーションと、主要な投機的デコーディングの手法をすべてサポートしています。
llama.cppを組み込んでいる開発者への影響
llama.cppを直接使っているアプリや、内部でllama.cppを利用しているツールの開発者は、依存関係の指定を見直すよい機会です。メジャーバージョンを固定しておけば、モデル対応やバグ修正を取り込みながら、破壊的変更だけは避けられます。
一方で、これまで特定のコミットに固定していたプロジェクトは、v1.0.0に追従する際に一度は動作確認が必要になるでしょう。Homebrewやconda-forgeなどから入れられるようになったことで、社内ツールの配布手順を簡単にできる可能性もあります。ローカルAIを製品に組み込む際の土台として、llama.cppはより扱いやすい存在になったといえます。
llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem
A Blog post by ggml-org on Hugging Face