# Nemotron 3.5 Lightning

> Текстовая модель для быстрых повторяющихся задач AI-агентов: вызова инструментов, проверки результатов и обработки типовых запросов.

- **ID для API:** `nvidia/nemotron-3.5-lightning`
- **Тип Модели:** Чат-модель
- **Контекст:** 262 144 токенов
- **Максимум на ответ:** 32 768 токенов
- **Вход:** текст → **Выход:** текст

## Описание

#### Суть
Nemotron 3.5 Lightning — открытая модель NVIDIA на архитектуре «смесь экспертов» (MoE), ориентированная на исполнительный слой долгоживущих AI-агентов. Она рассчитана на частые короткие операции — например, обращения к инструментам, проверку их ответов и делегирование задач подагентам. NVIDIA позиционирует её как модель для массового выполнения таких шагов, а не как единственную модель для всего цикла рассуждений и планирования.

#### Сильные стороны
Модель обучали с учётом популярных агентных сред, чтобы улучшить точность вызовов инструментов и сократить задержки в повторяющихся рабочих процессах. Для ускорения генерации предусмотрена поддержка спекулятивного декодирования; разработчик также предоставляет варианты черновых моделей для разных сценариев инференса. Открытые веса, данные и рецепты обучения позволяют адаптировать модель к специализированным задачам, в том числе с помощью дообучения.

#### Контекст и модальности
Согласно данным каталога, длина контекста составляет 262144 токена. На вход и выход подаётся текст; обработка изображений, аудио или видео в данных каталога не указана.

#### Типовые сценарии
Модель подходит для высокочастотных операций в агентных системах: вызова инструментов, проверки результатов, форматирования ответов и выполнения рутинных шагов. Её можно использовать как исполнительную модель в связке, где более мощная модель отвечает за планирование, а Lightning обрабатывает повторяющиеся запросы. NVIDIA также описывает адаптацию модели под специализированные рабочие процессы и локальное развёртывание.

#### Ограничения
По назначению это модель для выполнения агентных задач, а не замена модели, специализирующейся на сложном планировании и рассуждениях. Для таких сценариев NVIDIA предлагает распределять роли между моделями. Модальности, кроме текста, в данных каталога не заявлены.

#### Отличие от соседей по семейству
NVIDIA называет Lightning самой компактной моделью семейства Nemotron 3 и выделяет её как вариант для быстрого исполнения многочисленных агентных операций. В описании семейства Nemotron 3 Ultra отводится роль модели для сложного рассуждения и планирования, тогда как Lightning может выполнять последующие шаги с высокой частотой.

## Цены

- Запрос / 1М: 2,98 ₽
- Ответ / 1М: 14,29 ₽
- Чтение кэша / 1М: 1,49 ₽

## Параметры

reasoning, include_reasoning, temperature, top_p, top_k, frequency_penalty, presence_penalty, repetition_penalty, stop, seed, max_tokens, response_format, structured_outputs, logprobs, top_logprobs, tools, tool_choice, reasoning_effort

## Провайдеры

Выбрать Провайдера можно параметром `provider` в запросе.

| Провайдер | Цена | Контекст | Макс. ответ | Данные в РФ | 152-ФЗ |
| --- | --- | --- | --- | --- | --- |
| coreweave/bf16 | Запрос / 1М: 8,34 ₽; Ответ / 1М: 23,81 ₽ | 262 144 | 235 929 | — | — |
| deepinfra/bf16 | Запрос / 1М: 7,14 ₽; Ответ / 1М: 19,05 ₽ | 262 144 | 32 768 | — | — |
| darkbloom/int4 | Запрос / 1М: 2,98 ₽; Ответ / 1М: 14,29 ₽ | 262 144 | 32 768 | — | — |
| fireworks | Запрос / 1М: 5,95 ₽; Ответ / 1М: 23,81 ₽ | 262 144 | 235 929 | — | — |

## Быстрый старт

```bash
curl https://polza.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $POLZA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "nvidia/nemotron-3.5-lightning",
  "messages": [
    {
      "role": "user",
      "content": "Привет"
    }
  ]
}'
```

## Ссылки

- Страница: https://polza.ai/models/nvidia/nemotron-3.5-lightning
- Каталог: https://polza.ai/models
