sbrayn
BotPsy: крошечная ИИ-модель на 0,8 млрд параметров для телефонов
Исследовательское подразделение Tether AI Research выпустило BotPsy — компактную ИИ-модель, которая умеет вызывать функции и выполнять многошаговые задачи прямо на смартфоне или ноутбуке, без обращения к облачным сервисам. Это важно для обычных пользователей: такие помощники могут работать быстрее, приватнее и не зависеть от смены условий у крупных поставщиков.
Что именно выпустили
BotPsy построена на базе Qwen3.5-0.8B и содержит всего 0,8 млрд параметров. Модель распространяется под лицензией Apache 2.0 (для исследований и обучения) в форматах Safetensors и GGUF — последний подходит для запуска через llama.cpp и подобные инструменты на обычном железе. По данным разработчиков, модель примерно вдвое превосходит базовую по агентным тестам: например, на BFCL v4 она набирает 44,0 против 23,4 у исходной Qwen3.5-0.8B, а на ACEBench — 58,7 против 30,1. В таблице сравнения BotPsy обходит и более крупную Qwen3.5-2B-Think на пяти из шести тестов на вызов инструментов.
Почему это интересно не только разработчикам
Облачные ИИ-агенты удобны для прототипов, но дороги при постоянной работе: личный помощник, который ищет информацию, читает почту или вызывает домашние сервисы, расходует много токенов. Малая локальная модель снижает зависимость от API и позволяет хранить данные на устройстве. Разработчики также отмечают, что BotPsy показывает более низкий уровень небезопасных ответов в их внутреннем тестировании — 21% против 36% у базовой модели. Правда, создатели прямо предупреждают: модель предназначена для задач низкой и средней сложности, а не для критичных решений.
Что это значит
Появление субмиллиардных агентных моделей с открытыми весами — сигнал, что персональные ИИ-помощники могут постепенно перебираться с серверов на сами устройства. Для пользователя это означает больше приватности и меньше сюрпризов при смене тарифов или правил облачных провайдеров. При этом цифры в бенчмарках заявлены авторами — их стоит воспринимать как ориентир, а не гарантию.
Если тема локальных ИИ-помощников вам близка, узнайте больше о том, как небольшие модели меняют повседневные устройства. Подробности о релизе и замерах можно найти на сайте explainx.ai.
📌 Чтобы не пропустить новые публикации, подписывайтесь там, где вам удобнее: Дзен или MAX.
💛 Если статья оказалась полезной, поддержите автора донатом.
Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования, свяжитесь с нами по адресу info@11st.press.
