NVIDIA Nemotron 3.5 Lightning - открытая MoE-модель для ИИ-агентов 2026

Компания NVIDIA анонсировала новую открытую языковую модель Nemotron 3.5 Lightning, специально оптимизированную для непрерывной работы ИИ-агентов. Одновременно с моделью вышла библиотека NeMo Switchyard для интеллектуального распределения нагрузки между моделями. Все веса, обучающие данные и рецепты тренировки уже опубликованы в открытом доступе.

Архитектура: 30 млрд параметров, но активны только 3 млрд

Ключевая особенность Nemotron 3.5 Lightning — это архитектура Mixture of Experts (MoE) с разреженной активацией:

• Общий объём — 30 млрд параметров
• Активны при генерации — только 3 млрд параметров
• Скорость — в 4 раза быстрее аналогичных моделей

Такой подход означает, что модель «хранит» огромный объём знаний в своих 30 млрд параметров, но для каждого конкретного запроса активирует лишь наиболее релевантные 3 млрд «экспертов». Это даёт лучшее из двух миров: качество большой модели при скорости маленькой.

Результаты бенчмарков

В тестах PinchBench — бенчмарке для оценки агентных возможностей — Nemotron 3.5 Lightning показала впечатляющие результаты:

Иными словами, новинка справилась с 10 000 задач на 35% быстрее, чем сопоставимая по размеру Qwen3.6 35B, при точности 86%.

Запуск даже на DGX Spark

Одно из главных преимуществ Nemotron 3.5 Lightning — компактность. Благодаря MoE-архитектуре с активацией всего 3 млрд параметров, модель можно запускать локально даже на DGX Spark — компактной настольной ИИ-станции NVIDIA.

Это открывает возможности для:

• Локального инференса без облака
• Приватности данных — всё работает на вашем железе
• Экономии — не нужно платить за облачные GPU

Открытая архитектура для кастомизации

Поскольку модель полностью открыта, разработчики могут дообучать (fine-tune) её под свои специфические рабочие процессы, инструменты и доменные задачи. Это критично для агентных сценариев, где важна интеграция с корпоративными системами.

NeMo Switchyard: умное распределение нагрузки

Вместе с моделью NVIDIA выпустила библиотеку NeMo Switchyard — систему маршрутизации задач между моделями разного уровня.

Как работает Switchyard:

• Сложные рассуждения → направляются на тяжёлые, мощные модели (например, крупные Nemotron или сторонние LLM)
• Рутинные массовые задачи → уходят на сверхбыструю Lightning

Такой подход решает главную проблему масштабирования агентов: не тратить дорогие вычисления там, где достаточно быстрой лёгкой модели. Switchyard автоматически анализирует сложность запроса и выбирает оптимальную модель.

Это особенно важно для мультиагентных систем, где сотни агентов одновременно выполняют тысячи мелких задач, и лишь часть требует «глубокого мышления».

Полностью открытый релиз

NVIDIA сделала Nemotron 3.5 Lightning по-настоящему открытым проектом:

• ✅ Веса модели — опубликованы (вероятно, на Hugging Face)
• ✅ Обучающие данные — в открытом доступе
• ✅ Рецепты обучения — методология тренировки раскрыта

Это соответствует стратегии NVIDIA по развитию открытой ИИ-экосистемы вокруг своего железа. Чем больше открытых моделей оптимизировано под GPU NVIDIA, тем сильнее позиции компании на рынке.

Почему это важно

Выход Nemotron 3.5 Lightning — важный шаг в развитии эпохи ИИ-агентов:

1. Скорость = масштабируемость — агенты выполняют тысячи операций, и каждая миллисекунда критична
2. MoE-эффективность — качество большой модели при затратах маленькой
3. Локальный запуск — приватность и независимость от облака
4. Открытость — сообщество может улучшать и адаптировать модель
5. Switchyard — оркестрация делает мультиагентные системы экономически выгодными

На фоне закрытых моделей вроде Claude Fable-5 или Microsoft MAI, NVIDIA делает ставку на открытость и локальность — и это может стать решающим фактором для разработчиков агентных систем.

Где скачать

• Модель Nemotron 3.5 Lightning — Hugging Face / build.nvidia.com
• NeMo Switchyard — GitHub NVIDIA / NeMo Framework