Moonshot открыла веса Kimi K3.1 Pro: 2,8 трлн параметров и контекст в миллион токенов
Китайская компания Moonshot AI опубликовала полные веса языковой модели Kimi K3.1 Pro. Релиз состоялся 4 ноября на Hugging Face — в тот срок, который разработчики обещали ранее. До этого модель с 23 октября была доступна только через API и приложения Kimi.
Kimi K3.1 Pro построена по архитектуре MoE и насчитывает 2,8 трлн параметров. При обработке каждого токена активны около 104 млрд параметров. Модель поддерживает контекст длиной до 1 млн токенов и умеет работать с текстом и изображениями.
Веса занимают 1,56 ТБ
Moonshot выложила модель сразу в квантованном формате. При обучении использовалась технология QAT, учитывающая последующее квантование: веса хранятся в формате MXFP4, а вычисления с активациями выполняются в MXFP8.
Репозиторий занимает примерно 1,56 ТБ и разделён на 96 файлов формата safetensors. В варианте BF16 тот же набор весов потребовал бы около 5,6 ТБ памяти. Поэтому четырёхбитное представление для Kimi K3.1 Pro — не просто способ сэкономить ресурсы, а необходимое условие практического запуска.
Даже такой объём сложно разместить на одном современном сервере. Восемь ускорителей B200 с 192 ГБ памяти каждый дают около 1,54 ТБ HBM, чего недостаточно для загрузки весов без учёта KV-кэша. В качестве минимальной конфигурации можно рассматривать узел с восемью B300, который располагает примерно 2,3 ТБ HBM, либо два узла с H200.
На ускорителях Hopper, включая H100 и H200, нет аппаратной поддержки FP4, поэтому при запуске квантованной модели на таком оборудовании производительность инференса, вероятно, окажется ниже оптимальной. Кроме того, миллионный контекст потребует значительного дополнительного объёма памяти под KV-кэш. Локальное развёртывание Kimi K3.1 Pro таким образом остаётся задачей для полноценного кластера, а не одной стандартной серверной стойки.
Безопасность снизила результат на кибертесте
Перед открытым релизом Moonshot удалила из этапов mid-training и RL данные, связанные с кибератаками. По внутреннему тесту xdev-bench-hard нефильтрованная версия успешно эксплуатировала 90,5% уязвимостей, тогда как опубликованная модель показала результат 81%.
Разница в девять процентных пунктов показывает цену ограничений, однако не выглядит радикальным ослаблением модели. При этом сам факт публикации таких измерений примечателен: разработчики открыто показали компромисс между возможностями модели и безопасностью её применения.
Результаты бенчмарков
Moonshot заявляет, что Kimi K3.1 Pro ориентирована прежде всего на программирование и агентные сценарии. В Terminal-Bench 4.0 модель получила 65,7%, немного уступив Claude Opus 5.5 с результатом 66,4%, но опередив GPT-6 Astra, набравшую 58,2%. Независимая проверка Vals AI дала Kimi 63,64%.
В агрегированном Vals Index модель получила 62,52%. Это выше результата DeepSeek V4.1 Flash с 61,26% и почти на десять процентных пунктов больше, чем у Kimi K3 с 52,96%. В тесте BenchCAD с инструментами Moonshot заявила 92,7% против 96,2% у Opus 5.5.
По доле галлюцинаций в сложном тесте с инструментами Kimi K3.1 Pro показала 8,3%. Для сравнения, у GPT-6 Astra этот показатель составил 5,5%, а у Claude Opus 5.5 — 15%. При этом на юридических и налоговых агентных задачах, по данным Vals, новая модель уступает предшественнице Kimi K3. Похоже, основное внимание при доработке уделили коду и универсальным агентным сценариям, а не одинаково высоким результатам во всех областях.
Лицензия и место среди открытых моделей
Веса распространяются по собственной лицензии Kimi K3.1 Pro License, а не по MIT. Согласно описанию лицензии, внутреннее использование, дообучение и создание производных моделей разрешены без ограничений. Для корпоративного развёртывания и адаптации под собственные задачи условия выглядят достаточно свободными.
После выхода Kimi K3.1 Pro верхний сегмент открытых моделей пополнился ещё одним сильным участником наряду с DeepSeek V4.1 Flash и Mistral Large 4. Независимые тесты ставят разработку Moonshot немного выше DeepSeek в совокупной оценке, а в агентном программировании она приблизилась к закрытым системам. При этом высокая стоимость инфраструктуры остаётся главным препятствием для самостоятельного запуска.
