Nemotron 3.5 Lightning

Суть

Nemotron 3.5 Lightning — открытая модель NVIDIA на архитектуре «смесь экспертов» (MoE), ориентированная на исполнительный слой долгоживущих AI-агентов. Она рассчитана на частые короткие операции — например, обращения к инструментам, проверку их ответов и делегирование задач подагентам. NVIDIA позиционирует её как модель для массового выполнения таких шагов, а не как единственную модель для всего цикла рассуждений и планирования.

Сильные стороны

Модель обучали с учётом популярных агентных сред, чтобы улучшить точность вызовов инструментов и сократить задержки в повторяющихся рабочих процессах. Для ускорения генерации предусмотрена поддержка спекулятивного декодирования; разработчик также предоставляет варианты черновых моделей для разных сценариев инференса. Открытые веса, данные и рецепты обучения позволяют адаптировать модель к специализированным задачам, в том числе с помощью дообучения.

Контекст и модальности

Согласно данным каталога, длина контекста составляет 262144 токена. На вход и выход подаётся текст; обработка изображений, аудио или видео в данных каталога не указана.

Типовые сценарии

Модель подходит для высокочастотных операций в агентных системах: вызова инструментов, проверки результатов, форматирования ответов и выполнения рутинных шагов. Её можно использовать как исполнительную модель в связке, где более мощная модель отвечает за планирование, а Lightning обрабатывает повторяющиеся запросы. NVIDIA также описывает адаптацию модели под специализированные рабочие процессы и локальное развёртывание.

Ограничения

По назначению это модель для выполнения агентных задач, а не замена модели, специализирующейся на сложном планировании и рассуждениях. Для таких сценариев NVIDIA предлагает распределять роли между моделями. Модальности, кроме текста, в данных каталога не заявлены.

Отличие от соседей по семейству

NVIDIA называет Lightning самой компактной моделью семейства Nemotron 3 и выделяет её как вариант для быстрого исполнения многочисленных агентных операций. В описании семейства Nemotron 3 Ultra отводится роль модели для сложного рассуждения и планирования, тогда как Lightning может выполнять последующие шаги с высокой частотой.