Liquid AI、画像も扱う LFM2.5-VL を速くする DSpark

Liquid AI は 9 月 24 日、画像と文章を扱うモデル(VLM)LFM2.5-VL-3B の出力を速くする試験版の補助のモデル「LFM2.5-VL-3B-DSpark」を公開しました。小さな下書き用のモデルが次の数トークンを予想し、元のモデルがまとめて確かめる「投機的デコーディング」という方法で、出力の中身を変えずに文章を作る速さを上げます。文章だけのモデル向けに出していた LFM2.5-DSpark を、画像も扱うモデルに広げたものです。

要点

• 下書き用のモデルは約 2 億 8,000 万パラメーターで、全体の大きさは 8.9% 増えるだけです。
• GPU の H100 では、文章を作る速さが最大 2.66 倍、全体の処理で最大 2.27 倍になりました。
• M5 Max の MacBook Pro では、文章を作る速さが最大 3.13 倍、全体で最大 2.62 倍でした。
• 元のモデルが下書きを確かめるため、出力は元のモデルだけで作ったときと変わりません。
• 重みは Hugging Face で公開し、llama.cpp・SGLang・MLX-VLM で使えます。
• 画像の読み込みや最初の処理は速くならず、端末では全体の伸びが小さくなるとしています。

測定は、一般的な画像の質問、画像の中の文字の読み取り、画像の説明、グラフの読み取り、難しい推論、複数回のやりとりの 6 種類の作業で行いました。M3 Ultra の llama.cpp では、文章を作る速さが 1.57〜2.14 倍、全体で 1.30〜1.77 倍です。1 回の確かめで受け入れられた下書きは、およそ 3.2〜4.6 トークンでした。数値はいずれも 16 ビットのままのモデルで測ったもので、量子化したモデルの高速化は今回の対象外です。

出力のばらつきを決める温度を上げると、下書きが当たりにくくなり、速さの伸びが小さくなるとしています。同時に処理するリクエストを増やしても速さの差は残りますが、差は小さくなります。学習と比較の実験は、すべて AMD の機器で行ったとしています。Liquid AI は 10 月 13 日に、端末で動くエージェント向けのモデルも公開しています(Liquid AI、端末で動くエージェント向け LFM2.5-24B-A2B)。

日本の利用者にとって

対象の LFM2.5-VL-3B は、Hugging Face のモデルの説明で、対応する言語に日本語が含まれています。発表では、日本での提供には触れていません。ライセンスは Liquid AI 独自の lfm1.0 です。

YOBITSUGI AI で使えるか

LFM2.5-VL は、現時点では YOBITSUGI AI からは使えません。

出典

• LFM2.5-VL-DSpark: Accelerating vision-language models on edge and beyond(Liquid AI Blog・2026年9月24日)
• LiquidAI/LFM2.5-VL-3B-DSpark(Hugging Face・Liquid AI のモデルの説明)
• LiquidAI/LFM2.5-VL-3B(Hugging Face・Liquid AI のモデルの説明)