Meituan открыла LongCat-2.5: как модель на 1,6 трлн параметров работает на обычном железе

Китайская компания Meituan выложила в открытый доступ веса своей большой модели LongCat-2.5. Теперь её можно скачать, запустить у себя и даже дообучить под свои задачи — без покупки лицензии и без разрешения разработчика.

Модель вышла под лицензией MIT: она разрешает коммерческое использование, изменение и повторное распространение. Веса доступны на Hugging Face и ModelScope — там же выложен облегчённый вариант LongCat-2.5-W4A4. По данным DoNews, это не первый запуск модели: с 2 ноября она уже работала через API, а 9–10 ноября стал доступен именно скачиваемый вариант.

Что внутри

LongCat-2.5 — мультимодальная модель на архитектуре MoE (смесь экспертов). У неё около 1,6 трлн общих параметров, но на каждый токен активируется лишь примерно 48 млрд — именно это делает работу с ней реальной, а не теоретической. Модель поддерживает контекст до одного миллиона токенов, то есть способна «удержать в голове» очень большой объём текста и изображений.

Заявленные сценарии — длинные агентские задачи: правки в больших кодовых базах, сборка проектов целиком, визуальное программирование, подготовка офисных документов. Отдельно разработчики отмечают, что визуальная информация обрабатывается тем же основным механизмом, что и текст, а не отдельным внешним модулем.

Почему это важно для железа

Главная инженерная новость — адаптация под недорогие и локальные ускорители. В версии W4A4 веса и активации сжимаются до 4 бит и считаются на INT4-блоках, что снижает нагрузку на память и передачу данных. Для карт с объёмом памяти менее 80 ГБ применены двойное шардирование FSDP и гибридный параллелизм по словарю. По замерам разработчиков, на длинных задачах дообучения пропускная способность на одну карту выросла на 86% по сравнению с базовой схемой DDP.

Команда подчёркивает: совпадение качества с нежатым вариантом подтверждено на протестированных задачах, но это не гарантия для любых чипов и любых сценариев.

Что это значит

Открытие весов под MIT снижает порог входа: компания или исследовательская группа может развернуть модель на своём оборудовании, не отправляя данные в чужое облако, и дообучить её на собственных материалах. Для рынка это ещё один сигнал, что конкуренция больших моделей всё больше смещается от «у кого больше параметров» к тому, насколько хорошо модель адаптирована к доступному железу.

Обычному пользователю напрямую это пока ничего не меняет — такие модели живут в инфраструктуре сервисов. Но именно на подобных открытых решениях со временем строятся продукты, которыми люди пользуются каждый день.

Если хочется разобраться, как открытые модели влияют на сервисы вокруг нас, и увидеть больше подобных разборов — узнайте больше на нашем сайте.

📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.

💛 Если статья оказалась полезной, поддержите автора донатом.

Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования, свяжитесь с нами по адресу info@11st.press.