# Llama 3.2 3B Instruct

> Многоязычная текстовая модель для диалога, суммаризации и переписывания запросов; подходит для ассистентов и приложений с поиском по знаниям.

- **ID для API:** `meta-llama/llama-3.2-3b-instruct`
- **Тип Модели:** Чат-модель
- **Контекст:** 131 072 токенов
- **Максимум на ответ:** 117 964 токенов
- **Вход:** текст → **Выход:** текст

## Описание

#### Суть
Инструктивная текстовая модель Meta из семейства Llama 3.2. Она предназначена для диалоговых сценариев и задач, в которых ассистент следует запросам пользователя, помогает переработать текст или извлечь и кратко изложить сведения. Модель построена на авторегрессионной архитектуре Transformer; её диалоговая версия прошла дополнительную настройку для следования инструкциям и предпочтениям людей.

#### Сильные стороны
В карточке разработчика среди целевых задач указаны многоязычный диалог, поиск и извлечение знаний, суммаризация, помощь с письмом и переписывание запросов. Модель рассчитана на применение в ассистентских и агентных системах, где она формирует текстовые ответы и может использоваться как компонент более крупного приложения. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; на иных языках поведение может зависеть от дообучения и конкретной реализации.

#### Контекст и модальности
Контекст — 128 000 токенов. На вход подаётся текст, на выходе модель генерирует текст. Обработка изображений и других нетекстовых входов для этой версии не заявлена.

#### Типовые сценарии
Модель можно использовать для диалоговых помощников, составления кратких изложений, поиска по базе знаний в связке с внешним поисковым или retrieval-компонентом, а также для редактирования текста и переформулирования запросов. Для приложений на устройствах с ограниченными ресурсами Meta также описывает варианты семейства с квантованием; доступность и характеристики конкретной сборки зависят от реализации.

#### Ограничения
Это статическая модель, обученная на офлайн-данных: она не получает новые сведения автоматически и может выдавать неточные ответы. Контекст сам по себе не обеспечивает доступ к документам или интернету — для поиска нужны подключённые источники. Результаты в важных сценариях следует проверять, а развёртывание дополнять подходящими мерами безопасности. Использование регулируется лицензией Llama 3.2 и политикой допустимого использования Meta.

#### Отличие от соседей по семейству
В текстовой линейке Llama 3.2 представлены варианты 1B и 3B; эта версия относится к более ёмкому из этих двух вариантов. Семейство также включает отдельные мультимодальные модели, но описываемая Instruct-версия предназначена для работы с текстом.

## Цены

- Запрос / 1М: 5,92 ₽
- Ответ / 1М: 39,08 ₽

## Параметры

max_tokens, temperature, top_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, top_k, logit_bias, structured_outputs, logprobs, top_logprobs

## Провайдеры

Выбрать Провайдера можно параметром `provider` в запросе.

| Провайдер | Цена | Контекст | Макс. ответ | Данные в РФ | 152-ФЗ |
| --- | --- | --- | --- | --- | --- |
| cloudflare | Запрос / 1М: 6,03 ₽; Ответ / 1М: 39,67 ₽ | 80 000 | 72 000 | — | — |
| parasail/bf16 | Запрос / 1М: 5,92 ₽; Ответ / 1М: 39,08 ₽ | 131 072 | 117 964 | — | — |

## Быстрый старт

```bash
curl https://polza.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $POLZA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/llama-3.2-3b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Привет"
    }
  ]
}'
```

## Ссылки

- Страница: https://polza.ai/models/meta-llama/llama-3.2-3b-instruct
- Каталог: https://polza.ai/models