MF Blogs 便利ツール
グレーの大きな立方体と、離れた場所に浮かぶ青・紫の小さな立方体を組み合わせた抽象的なアイソメトリックイラスト

記事

IBMのGranite Switch 4.1.1公開——モデルをソフトウェアのように更新

IBMがGranite Switchのパッチリリース版4.1.1をHugging Faceで公開しました。ベースモデルを再学習せず、音声認識アダプターと意思決定アダプターだけを差し替えることで機能を更新する、ソフトウェアに近いモデル運用の考え方を示しています。

0:00 0:00

IBMのGraniteチームが、Hugging Face上で「Granite Switch」のパッチリリース版4.1.1を公開しました。Granite Switchは、単一のエンドポイント上でキャッシュ効率の良いアダプターを切り替えることで、専門分野ごとの能力を追加できるモジュール型アーキテクチャです。今回のバージョンは、わずか1週間前にリリースされた4.1系に対する後方互換のパッチ更新であり、移行作業なしで導入できる点が特徴です。

バージョン番号が意味する「パッチリリース」

Graniteチームは、今回のリリースについて「バージョン番号はソフトウェアと同じ意味を持つ」と説明しています。4.1.1は4.1と完全な後方互換性を保っており、移行作業は不要で、内部的な改善が中心です。モデルの世界では新バージョンが出るたびに大規模な再学習や置き換えが必要になることも珍しくありませんが、今回のアップデートではベースモデル自体には一切手を加えていません。更新されたのは、音声認識用のアダプターと意思決定用のアダプターの2つだけです。

グレーの大きな立方体と、離れて浮かぶ青・紫の小さな立方体を組み合わせたアイソメトリックイラスト

画像引用元: Hugging Face Blog

音声認識アダプターと意思決定アダプターの改善

今回更新された1つ目の要素は、Granite Speech ASRモデルです。10言語にまたがる多言語の音声認識に対応し、句読点や大文字小文字を自動で付与できるため、後段のモデルに渡す前の整形作業が不要になります。もう1つの更新対象は、granitelib-coreに含まれる意思決定(Decision)アダプターで、社内の評価指標である「Jev Decision Index」テストセットにおける全体的な性能が向上したとしています。音声からテキスト、テキストから意思決定までを一つのモデル上で完結させる狙いがうかがえる構成です。

再計算なしでデプロイできる速さ

Graniteチームが特に強調しているのは、新しいASRモデルとDecisionアダプターの学習以外には何も再計算していないという点です。ベースモデル自体は変更されておらず、開発者は必要なアダプターを組み合わせてデプロイするだけで済みます。この仕組みにより、通常であれば数週間かかりかねない更新作業を、短期間で安全にリリースできるようになったとGraniteチームは説明しています。パッチリリースのたびにモデル全体を差し替える必要がないという点は、本番環境で運用するチームにとって無視できないメリットです。

IBM以外にも広がる可能性

Graniteチームは、この仕組みがIBM提供モデルのパッチリリースにとどまらない可能性を示唆しています。現在、開発者やサードパーティのプロバイダーが自分たちのアダプターを構築できる「Adapter SDK」とチュートリアルを準備中だといい、今後はバージョンの反復やテスト、ソフトウェアさながらのアップデート配信を、Granite Switch以外のエコシステムにも広げていく方針です。アダプター単位での配布が一般化すれば、モデルの更新サイクル自体がライブラリのパッケージ管理に近い感覚に変わっていくかもしれません。

試せる場所

新しい音声認識機能と意思決定アダプターの組み合わせは、Hugging Face上のデモ「Speech to Decisions with Granite」で試すことができます。ライブ音声を認識しながら、その内容を踏まえた判断をモデルが下す様子を実際に確認できるため、アダプター単位でのモデル更新が実運用でどのような体験につながるのかを把握したい開発者にとって参考になりそうです。