NVIDIA: Nemotron 3 Ultra

Суть

Nemotron 3 Ultra — открытая модель NVIDIA для задач, где агенту нужно не только ответить на отдельный вопрос, но и поддерживать ход работы на протяжении многих шагов. NVIDIA позиционирует её для сложных рассуждений и координации агентных систем. Архитектура сочетает Mamba и Transformer в модели типа Mixture of Experts; разработчик также указывает на применение LatentMoE и предсказания нескольких токенов для ускорения генерации.

Сильные стороны

Модель ориентирована на длительные процессы с использованием инструментов: планирование, обработку результатов вызовов, проверку и уточнение решений. Среди заявленных сценариев — сложные задачи программирования, исследовательский синтез материалов и профессиональные рабочие процессы. NVIDIA описывает гибридную архитектуру как способ сочетать эффективность при работе с длинными последовательностями и точное извлечение сведений из контекста. Предусмотрено управление бюджетом рассуждений во время инференса. Для модели опубликованы веса, обучающие данные и рецепты дообучения и развёртывания.

Контекст и модальности

По данным каталога, контекст составляет до 1 000 000 токенов, а максимальный объём генерации — 16 384 токена. Ввод и вывод — текстовые: модель не принимает изображения, аудио или видео как вход и не генерирует такие данные.

Типовые сценарии

Модель подходит для роли рассуждающего или координирующего компонента в агентной системе: разбирать многоэтапные задачи, планировать работу с инструментами, помогать с программированием и сопоставлять сведения из большого объёма текста. Большое контекстное окно полезно, когда нужно передать модели объёмные документы или историю работы. NVIDIA также указывает на возможность адаптации модели под специализированные области.

Ограничения

Это текстовая модель, поэтому мультимодальные задачи требуют отдельных моделей или предварительного преобразования данных в текст. Максимальная длина ответа ограничена настройкой каталога. Заявленное контекстное окно не означает, что модель одинаково надёжно использует каждую деталь длинного ввода; важные сведения стоит проверять, особенно в критичных рабочих процессах.

Отличие от соседей по семейству

В семействе Nemotron 3 представлены Nano, Super и Ultra. NVIDIA описывает Nano как компактный вариант, Super — как модель для совместной работы агентов и высоконагруженных задач, а Ultra — как наиболее крупный вариант семейства, предназначенный для более сложных рассуждений и координации. Ultra использует гибридную Mamba–Transformer MoE-архитектуру, LatentMoE и слои предсказания нескольких токенов.