Независимая исследовательская лаборатория

Independent AI research lab

独立人工智能研究实验室

Мы строим модели
с первых принципов. We build models
from first principles. 我们从第一性原理
构建模型。

Q Project обучает языковые и агентские модели с нуля — некоторые открыты для всех, некоторые остаются приватными. Каждый вес, токенизатор и решение по обучению — наши собственные.

Q Project trains language and agent models from scratch — some open for anyone to run, some kept private. Every weight, tokenizer, and training decision is ours.

Q Project 从零开始训练语言模型和智能体模型 —— 有些完全开放，任何人都可以运行；有些则保持私有。 每一个权重、分词器和训练决策都是我们自己的。

Смотреть модели Читать документацию
See the models Read the docs
查看模型 阅读文档

МоделиModels模型

Открытые релизы, на которых можно учиться, и закрытые модели, созданные, чтобы идти дальше.

Open-weight releases to learn from, and closed models built to go further.

开放权重的版本供你学习，闭源模型则用于走得更远。

Новинка · Apache 2.0 New · Apache 2.0 新发布 · Apache 2.0

N-Q-26M

Первая модель линейки N-Q: обучена с нуля на одной V100 за 6.6 часа, понимает русский и английский, считает через детерминированный исполнитель. Чат-версия работает в чате на сайте прямо в браузере.

The first model of the N-Q ladder: trained from scratch on one V100 in 6.6 hours, Russian and English, computes through a deterministic executor. The chat version runs in the site chat right in your browser.

N-Q 系列的第一个模型：在一张 V100 上用 6.6 小时从零训练，理解俄语和英语， 通过确定性执行器进行计算。聊天版本可以直接在浏览器里的网站聊天中使用。

Параметры
29.7M + 16.8M n-грамм
Токенов претрейна
2B
Языки
русский, английский
Инструменты
15/16
Parameters
29.7M + 16.8M n-gram
Pretrain tokens
2B
Languages
Russian, English
Tool calls
15/16
参数量
29.7M + 16.8M n-gram
预训练词元数
20 亿
语言
俄语、英语
工具调用
15/16
Чат Hugging Face · Читать разбор →
Chat Hugging Face · Read the writeup →
聊天 Hugging Face · 阅读详细介绍 →
Уже доступна · Apache 2.0 Available now · Apache 2.0 现已提供 · Apache 2.0

Q-50M-Base

Декодерная языковая модель на 50.9M параметров, обученная с нуля на 5 миллиардах токенов FineWeb-Edu. Базовая модель для продолжения текста, изучения и дообучения — достаточно маленькая, чтобы запустить где угодно.

A 50.9M-parameter decoder-only language model, pretrained from scratch on 5 billion tokens of FineWeb-Edu. A base model for continuation, study, and fine-tuning — small enough to run anywhere.

一个 5090 万参数的仅解码器语言模型，在 50 亿词元的 FineWeb-Edu 上从零预训练而成。 这是一个用于续写、研究和微调的基础模型 —— 足够小，可以在任何地方运行。

Параметры
50.9M
Токенов обучения
5B
Контекст
2 048
Словарь
32 768 BPE
Внимание
GQA · QK-Norm
Val. perplexity
24.47
Parameters
50.9M
Training tokens
5B
Context
2,048
Vocab
32,768 BPE
Attention
GQA · QK-Norm
Val. perplexity
24.47
参数量
50.9M
训练词元数
5B
上下文
2,048
词表
32,768 BPE
注意力
GQA · QK-Norm
Val. perplexity
24.47
Скачать веса Decoder-only · RoPE · SwiGLU · RMSNorm
Download weights Decoder-only · RoPE · SwiGLU · RMSNorm
下载权重 Decoder-only · RoPE · SwiGLU · RMSNorm
Экспериментальный релиз Experimental release 实验性发布

Q-Omni-53M

Модель на 53M параметров с полностью тернарными весами и замороженным 512-битным словарём отпечатков, общим для текста, изображений и звука — без обучаемой embedding-таблицы вообще.

A 53M-parameter model with fully ternary weights and a frozen 512-bit fingerprint vocabulary shared across text, images, and audio — no trained embedding table at all.

一个 5300 万参数的模型，权重完全三元化，使用一套在文本、图像、 音频之间共享的冻结 512 位指纹词表 —— 完全没有可训练的嵌入表。

Параметры
53.2M
Веса
1.58-бит, тернарные
Упаковано
33 МБ (QPACK1)
Модальности
текст + изображение + звук
Точность circuits
98.7%
Embedding-таблица
отсутствует
Parameters
53.2M
Weights
1.58-bit ternary
Packed size
33 MB (QPACK1)
Modalities
text + image + audio
Circuits accuracy
98.7%
Embedding table
none
参数量
53.2M
权重
1.58 比特三元
打包体积
33 MB（QPACK1）
模态
文本 + 图像 + 音频
circuits 准确率
98.7%
嵌入表
无
Модель и веса Читать разбор →
Model & weights Read the writeup →
模型与权重 阅读详细介绍 →
Уже доступна · Apache 2.0 Available now · Apache 2.0 现已提供 · Apache 2.0

Q-164M / Q-U-164M

Более крупный, только текстовый преемник Q-Omni — обучен с нуля на 13.1 млрд токенов, дообучение под диалог и обобщённый механизм точных вызовов инструментов (SFT, затем RL). Инструктивная версия (Q-U-164M) — тот же чекпоинт, дообученный для чата; работает в чат-демо прямо в браузере.

A larger, text-only successor to Q-Omni — pretrained from scratch on 13.1B tokens, then fine-tuned for dialogue with a generalized exact-tool-calling mechanism (chat SFT, then RL). The instruct variant (Q-U-164M) is the same checkpoint tuned for chat; try it in the chat demo right in your browser.

一个更大、只面向文本的 Q-Omni 后继模型 —— 在 131 亿词元上从零预训练，随后针对对话 做了微调，配备通用化的精确工具调用机制（先 chat-SFT，再 RL）。指令版本（Q-U-164M） 就是同一个检查点针对聊天微调而来；可以直接在聊天演示中 在浏览器里试用。

Параметры
164.6M
Токенов претрейна
13.1B
Веса
тернарные (QAT)
Val. perplexity
16.98
Одиночные задачи (Q-U)
6/6
8-ходовой диалог (Q-U)
6/8
Parameters
164.6M
Pretrain tokens
13.1B
Weights
ternary (QAT)
Val. perplexity
16.98
Single-turn tasks (Q-U)
6/6
8-turn dialogue (Q-U)
6/8
参数量
164.6M
预训练词元数
131 亿
权重
三元（QAT）
Val. perplexity
16.98
单轮任务（Q-U）
6/6
8 轮对话（Q-U）
6/8
Чат-демо Hugging Face · Читать разбор →
Chat demo Hugging Face · Read the writeup →
聊天演示 Hugging Face · 阅读详细介绍 →

Запусти Q-50M-Base за минуту Run Q-50M-Base in a minute 一分钟运行 Q-50M-Base

Загружается через стандартный API Transformers. Без регистрации, без ограничений — веса открыты.

It loads with the standard Transformers API. No sign-up, no gate — the weights are open.

通过标准的 Transformers API 加载。无需注册，没有门槛 —— 权重是开放的。

Установи библиотеку, скачай чекпоинт с Hub и дай модели продолжить твой текст.

Полное руководство по быстрому старту

Это базовая модель

Q-50M-Base продолжает текст, а не следует инструкциям. Для диалогового поведения дообучи её на своих данных.

Install the library, pull the checkpoint from the Hub, and let it continue your text.

Full quickstart guide

It's a base model

Q-50M-Base continues text rather than following instructions. For chat behavior, fine-tune it on your own data.

安装这个库，从 Hub 拉取检查点，然后让它续写你的文本。

完整快速开始指南

这是一个基础模型

Q-50M-Base 只会续写文本，而不会遵循指令。若需要对话行为，请在自己的数据上进行微调。

quickstart.py 
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "q-project/Q-50M-Base"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float16)

prompt = "The theory of relativity states that"
inputs = tokenizer(prompt, return_tensors="pt")
output = model.generate(**inputs, max_new_tokens=64, do_sample=True, temperature=0.8)
print(tokenizer.decode(output[0], skip_special_tokens=True))

Чем мы занимаемся What we work on 我们的工作方向

Четыре направления, которые подпитывают друг друга — от чистого претрейна до моделей, совершающих действия.

Four threads that feed each other, from raw pretraining to models that take actions.

四条相互支撑的主线，从原始的预训练到能够采取行动的模型。

Претрейн

Обучение основ с нуля — свои токенизаторы, смеси данных и стабильные, эффективные архитектуры.

Файнтюн

Превращение базовых моделей в дееспособные и хорошо ведущие себя — через supervised и preference tuning.

Агенты

Модели, которые используют инструменты, воспринимают окружение и надёжно выполняют многошаговые задачи.

Исследования

Публикуем то, что узнаём — модели, датасеты и заметки о том, как заставить маленькие модели работать не по размеру.

Pretrain

Training foundations from scratch — our own tokenizers, data mixes, and stable, efficient architectures.

Finetune

Turning base models into capable, well-behaved ones through supervised and preference tuning.

Agents

Models that use tools, perceive their surroundings, and carry out multi-step tasks reliably.

Research

Publishing what we learn — models, datasets, and notes on making small models punch above their size.

预训练

从零训练基础能力 —— 我们自己的分词器、数据配比，以及稳定高效的架构。

微调

通过监督微调和偏好调优，把基础模型变成能力强、表现得体的模型。

智能体

能够使用工具、感知周围环境，并可靠完成多步任务的模型。

研究

公开我们学到的一切 —— 模型、数据集，以及关于如何让小模型发挥超出其体量的能力的笔记。

ДоступAccess访问

Открытые веса остаются бесплатными. Хостинг и приватные модели уже в пути — запишись в лист ожидания, и мы дадим знать.

Open weights stay free. Hosted access and private models are on the way — join the waitlist and we’ll let you know.

开放权重将始终免费。托管访问和私有模型即将推出 —— 加入等待名单，我们会通知你。

Открытая

Бесплатновсегда

Для разработчиков, студентов и исследователей.

  • Модели с открытыми весами под Apache 2.0
  • Полные карточки моделей и заметки об обучении
  • Запуск локально, без аккаунта
Смотреть на Hugging Face

Pro

Скороцена при запуске

Хостинг API для моделей Q, без своего железа.

  • Управляемые endpoint'ы для моделей Q
  • Более высокие лимиты и приоритет
  • Ранний доступ к новым релизам
Записаться в лист ожидания
Скоро

Приватная

Давай обсудим

Закрытые модели, обучение под заказ и выделенная поддержка.

  • Доступ к закрытым моделям Q
  • Кастомный претрейн и файнтюны
  • Выделенное развёртывание и поддержка
Связаться с нами

Open

Freealways

For builders, students, and researchers.

  • Open-weight models under Apache 2.0
  • Full model cards and training notes
  • Run locally, no account needed
Browse on Hugging Face

Pro

Coming soonpricing at launch

Hosted API for Q models, without running your own hardware.

  • Managed endpoints for Q models
  • Higher rate limits and priority
  • Early access to new releases
Join the waitlist
Coming soon

Private

Let’s talk

Closed models, custom training, and dedicated support.

  • Access to closed Q models
  • Custom pretraining and fine-tunes
  • Dedicated deployment and support
Get in touch

开放

免费始终如此

面向开发者、学生和研究人员。

  • 基于 Apache 2.0 的开放权重模型
  • 完整的模型卡片和训练笔记
  • 本地运行，无需账号
在 Hugging Face 上浏览

Pro

即将推出发布时公布价格

面向 Q 系列模型的托管 API，无需自己的硬件。

  • Q 系列模型的托管端点
  • 更高的速率限制与优先级
  • 新版本的抢先体验
加入等待名单
即将推出

私有

联系我们

闭源模型、定制训练与专属支持。

  • 访问闭源 Q 模型
  • 定制预训练与微调
  • 专属部署与支持
联系我们

Узнай первым, когда откроется доступ

Одно письмо, когда Pro и приватные модели станут доступны. Без спама.

Be first when access opens

One email when Pro and private models go live. No noise.

抢先获知开放消息

Pro 版和私有模型上线时，只发一封邮件通知你，不打扰。