スマホでも213tok/sの爆速推論を実現するモデル「LFM2.5-230M」無料公開

Liquid AIは6月25日(米国時間)、同社最小のモデル「LFM2.5-230M」をオープンウェイトで公開した。パラメータ数は230Mで、CPUで4bit量子化したモデルを利用した場合、スマートフォン「Galaxy S25 Ultra」では213tok/s、シングルボードコンピュータの「Raspberry Pi 5」でも42tok/sの高速な応答が可能だ。