Liquid AI представила LFM2.5-2.6B — агентную модель на 2,6 млрд параметров, которая полностью работает на устройстве: планирует действия, вызывает инструменты и выполняет многошаговые задачи без облачного API. Это важно для тех, кто хочет запускать ИИ-агентов локально, без затрат на облачную инфраструктуру и с сохранением приватности данных.

По тестам разработчика, модель по ряду задач на следование инструкциям и tool usei превосходит более крупные Gemma и Qwen, при этом потребляет менее 2,5 ГБ памяти на CPU.

• Модель обучена на примерно 34 трлн токенов, словарь расширен до 128 тысяч токенов, контекст увеличен до 128K
• Дообучение прошло в несколько этапов: отдельные модели-эксперты усиливали математику, код, tool use и длинный контекст, затем их навыки перенесли в одну модель через on-policy distillationi
• Финальная настройка проходила внутри реальных агентных сред, включая Hermes Agent и OpenClaw
• Скорость генерации: до 220 токенов/с на Apple M5 Max, до 113 токенов/с на Ryzen AI Max+ 395, около 30 токенов/с на смартфоне, почти 15 000 выходных токенов/с на одной H100 при высокой параллельной нагрузке
• В сложном программировании более крупные модели пока сохраняют преимущество над LFM2.5-2.6B
• Есть поддержка llama.cpp, MLX, vLLM, SGLang и ONNX; доступны базовая и дообученная open-weighti версии