N-Q-164M
Базовая модель: продолжает текст. 166.8M параметров + 58.7M n-грамм, 8 млрд токенов.
N-Q-164M-Chat
Чат-модель после SFT, рассуждений, DPO, GRPO и агентного RL. Точные вычисления через встроенный исполнитель.
Что это
Та же архитектура, что победила в абляции на 26M: Gated DeltaNet и обычное внимание в пропорции 3:1, Gated Residual на 4 потока и хэшированные n-граммы. Здесь всё больше: 16 слоёв вместо 8, ширина 896 вместо 512 и в 4 раза больше данных. Токенизатор общий с 26M, поэтому перплексии можно сравнивать напрямую.
База: насколько лучше 26M
| Отложенный текст, перплексия | N-Q-26M | N-Q-164M |
|---|---|---|
| FineWeb-Edu (EN) | 10.8 | 7.4 |
| Cultura-Ru-Edu (RU) | 14.2 | 9.3 |
| Русская Википедия | 10.2 | 6.6 |
Чат: каждая стадия на счету
На 26M обучение с подкреплением почти ничего не давало, и мы выложили DPO-чекпоинт. На 164M каждая стадия добавляла понемногу, поэтому выложен последний чекпоинт.
| Чекпоинт | Инструменты (16 задач) | GSM8K EN | GSM8K RU |
|---|---|---|---|
| N-Q-26M-Chat | 15/16 | 2.0% | 2.2% |
| 164M, рассуждения | 16/16 | 5.0% | 3.4% |
| 164M, DPO | 16/16 | 5.6% | 3.0% |
| 164M, GRPO | 16/16 | 6.8% | 5.8% |
| N-Q-164M-Chat (агентный RL) | 16/16 | 7.2% | 6.2% |
Пример: «Товар стоит 1250 рублей, скидка 15%. Сколько платить?» Модель сама пишет два вызова, 1250*15/100 и 1250-187.5, и отвечает: «Скидка 187.5 руб., итоговая цена 1062.5 руб.». Числа считает исполнитель, а модель решает, что считать.
Честно о слабых местах
7% на GSM8K — это всё ещё мало: модель правильно вызывает калькулятор, но многошаговые задачи не планирует. В фактах путается в деталях. Например, про фотосинтез пишет верно в целом, но говорит «выделяет кислород (CO2)». Стихи получаются складными, но без смысла. Агентные эпизоды из нескольких ходов модель так и не научилась доводить до верного ответа: прирост дал лучший вызов инструментов за один ход.
Как обучали
Всё на одной V100 16 ГБ. Претрейн на 8 млрд токенов занял около 117 часов. После него SFT 2.8 ч, рассуждения 0.9 ч, DPO 4.5 ч, GRPO 2 ч и агентный RL 3.2 ч. По пути претрейн однажды убили извне, и мы добавили супервизор с автоперезапуском. DPO в первый раз не влез в память, пришлось перейти на одну пару за шаг.
Дальше по линейке: N-Q-64M и MoE уже обучаются.