N-Q-26M-JEV-1027

Модель решений: вместо текста она за один проход выдаёт выбор из вариантов, оценку по шкале или вероятность «да» — с откалиброванными вероятностями. Это N-Q-26M-Chat с головой решений, работает прямо в этой вкладке. Обновление 27 октября: заметно сильнее в логике, ловушках и проверке фактов по тексту, плюс новые решения для чата — нужен ли калькулятор и стоит ли подумать перед ответом.

A decision model: instead of text it returns, in one forward pass, a choice among options, a level on a scale or a probability of "yes" — with calibrated probabilities. It is N-Q-26M-Chat with a decision head, running right in this tab. October 27 update: much stronger at logic, trick questions and checking claims against a text, plus new chat decisions — does the reply need the calculator, should the model think first.

一个决策模型:它不生成文本,而是一次前向计算给出选项中的选择、量表上的等级或"是"的概率 —— 概率经过校准。它是带决策头的 N-Q-26M-Chat,直接在这个标签页里运行。10 月 27 日更新:在逻辑推断、陷阱问题和依据文本核查事实方面明显更强,并新增了聊天决策 —— 是否需要计算器、回答前是否需要思考。

Примеры использования

Use cases

应用示例

Та же модель в разных интерфейсах — так JEV встраивается в продукты.

The same model behind different interfaces — this is how JEV fits into products.

同一个模型,不同的界面 —— JEV 就是这样嵌入产品的。

Конструктор решений

Decision playground

决策试验场

loading…
ПримерыExamples示例
Вопросы: тип · вопрос · варианты через запятуюQuestions: type · question · comma-separated options问题:类型 · 问题 · 逗号分隔的选项

Где модель сильна, а где нет

Where it is good, and where it is not

它擅长什么,不擅长什么

ЗадачаTask任务%СлучайноChance随机
needs the calculator? / нужен ли калькулятор (new)98.350
think before answering? / думать ли перед ответом (new)99.250
reply ↔ question / ответ ↔ вопрос98–9925–50
news topic / тематика новостей89.525
tool call correct / вызов инструмента верный (new)87.550
request topic / тема запроса (6)79.817
toxicity (ru) / токсичность79.550
sentiment / тональность79.2~40
claim supported by the text / утверждение подтверждается текстом (new)76.850
MNLI, held out / логика, вне обучения72.5 (was 64.7)33
ANLI r1, adversarial, held out / логика с ловушками43.3 (was 23.7)33
FalseQA, false premises, held out (AUROC) / ложные предпосылки0.61 (was 0.44)0.5
which answer is better / какой ответ лучше68.350
JevBench public, held out / внешний бенчмарк46.3—

Модель хорошо решает задачи тех типов, на которых обучена, и её вероятности честные (средняя ошибка калибровки 0.065). На внешних тестах, которых она не видела, обновление дало +8 пунктов в логике (MNLI), +20 в логике с ловушками (ANLI r1) и рост с 0.44 до 0.61 в поиске ложных предпосылок — там 26M теперь обгоняет NLI-модели в 3 раза крупнее. Вопросы, требующие знаний и многошагового рассуждения, по-прежнему не по силам 26M. Веса — model.q8.qpack (47 МБ, QPACK2); расчёт в браузере сверен с PyTorch (расхождение вероятностей 5·10⁻⁵). Подробнее — в посте об обновлении и разборе JEV; веса — на Hugging Face.

The model is good at the task families it was trained on, and its probabilities are honest (mean calibration error 0.065). On held-out tests it never saw, the update adds +8 points on plain NLI (MNLI), +20 on adversarial NLI (ANLI r1) and lifts false-premise detection from 0.44 to 0.61 AUROC — there the 26M model now beats NLI models 3× its size. Questions that need knowledge or multi-step reasoning are still beyond 26M. Weights: model.q8.qpack (47 MB, QPACK2); the in-browser computation is checked against PyTorch (probabilities within 10⁻⁴). More in the update post and the JEV writeup; weights on Hugging Face.

模型擅长它训练过的任务类型,概率也是真实可信的(平均校准误差 0.065)。在从未见过的测试上,此次更新让常规推断(MNLI)提升 8 个百分点、对抗推断(ANLI r1)提升 20 个百分点,虚假前提检测从 0.44 提升到 0.61 AUROC —— 在这些任务上 26M 已超过 3 倍大小的 NLI 模型。需要知识或多步推理的问题仍超出 26M 的能力。权重:model.q8.qpack(47 MB,QPACK2);浏览器中的计算已与 PyTorch 对齐(概率误差小于 10⁻⁴)。详见 更新说明和 JEV 介绍;权重见 Hugging Face。