Liquid AI выпустила шесть компактных мультимодальных моделей для локального запуска
Open-weight семейство LFM3 охватывает текст, изображения, аудио, omni-ввод и задачи принятия решений при размере моделей около двух миллиардов параметров.
Liquid AI выпустила LFM3 — семейство из шести open-weight моделей для специализированных AI-задач на телефонах, ноутбуках и периферийном оборудовании. В линейку входят текстовая модель на 1,7 млрд параметров, vision-language модель, аудиомодель, omni-модель, объединяющая изображения, звук и язык, а также две decision-модели с типизированным выводом и калиброванными вероятностями.
Все шесть моделей имеют около двух миллиардов параметров и используют новую общую основу, обученную на 22 трлн токенов. Текстовая модель поддерживает до 256 000 токенов контекста. Liquid утверждает, что модели можно дообучать на одном GPU, а архитектуру оптимизировали для 14 сочетаний оборудования, включая мобильные чипы, CPU, GPU и NPU.
LFM3 сочетает gated short convolutions, sliding-window attention и global attention. Конструкция должна сохранить глобальный контекст для агентных сценариев и эффективность на устройствах с ограниченными ресурсами. По данным Liquid, текстовая модель 1.7B примерно на 25% быстрее предыдущей 1.2B при контексте в 8 000 токенов, а визуальная модель принимает видео.
Разработчик может запустить компактную модель под нужную модальность, не отправляя каждый запрос большой облачной модели. Базовые и дообученные веса опубликованы на Hugging Face; также доступны API, playground и документация для локального запуска.
