# Llama 3.3 70B Instruct

> Текстовая модель для многоязычного диалога: отвечает на вопросы, помогает с письмом, пересказом и другими задачами разговорного ассистента.

- **ID для API:** `meta-llama/llama-3.3-70b-instruct`
- **Тип Модели:** Чат-модель
- **Контекст:** 131 072 токенов
- **Максимум на ответ:** 16 384 токенов
- **Вход:** текст → **Выход:** текст

## Описание

#### Суть
Llama 3.3 70B Instruct — текстовая генеративная модель Meta, настроенная следовать инструкциям и вести диалог в формате ассистента. В основе — авторегрессионная архитектура Transformer; настройка включает обучение на примерах и обратную связь от людей. Модель предназначена для исследовательского и коммерческого применения в языковых задачах.

#### Сильные стороны
Модель ориентирована на многоязычный диалог и работу с текстом и кодом. В карточке Meta перечислены поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Такой охват подходит для чат-интерфейсов, подготовки черновиков, объяснений, обобщения и перевода текстов. Разработчик также позиционирует эту версию как вариант для текстовых приложений, способный приблизить качество более крупной модели семейства Llama 3.1.

#### Контекст и модальности
Согласно данным каталога, контекст составляет 131072 токена. На вход принимает текст и генерирует текст; изображения, аудио и видео в данных каталога не указаны.

#### Типовые сценарии
Подходит для диалоговых помощников, ответов на вопросы, составления и редактирования текстов, краткого изложения материалов, генерации идей и задач с кодом. Её можно использовать как основу многоязычного интерфейса или подключать к прикладному продукту, где ответы модели проверяются и при необходимости дополняются внешними данными.

#### Ограничения
Это статическая модель, обученная на офлайн-данных: сама по себе она не получает свежую информацию из интернета и может ошибаться или уверенно формулировать неверные ответы. Meta прямо называет поддерживаемыми только перечисленные языки; качество на других языках не следует считать гарантированным. Для важных решений ответы нужно проверять, а правила использования определять с учётом лицензии Llama 3.3 и политики допустимого использования.

#### Отличие от соседей по семейству
Эта версия — именно instruction-tuned текстовая модель для общения, а не базовая модель, которую предстоит отдельно адаптировать под задачи. Она также отличается от мультимодальных моделей семейства: рассчитана на текстовый ввод и текстовый вывод. В линейке Llama 3.3 Meta выделяет её как модель для текстовых приложений.

## Цены

- Запрос / 1М: 11,84 ₽
- Ответ / 1М: 37,89 ₽

## Параметры

max_tokens, temperature, top_p, stop, frequency_penalty, presence_penalty, repetition_penalty, top_k, seed, min_p, tools, tool_choice, logit_bias, response_format, structured_outputs

## Провайдеры

Выбрать Провайдера можно параметром `provider` в запросе.

| Провайдер | Цена | Контекст | Макс. ответ | Данные в РФ | 152-ФЗ |
| --- | --- | --- | --- | --- | --- |
| cloudflare/fp8 | Запрос / 1М: 34,69 ₽; Ответ / 1М: 266,78 ₽ | 24 000 | 21 600 | — | — |
| deepinfra/turbo | Запрос / 1М: 11,84 ₽; Ответ / 1М: 37,89 ₽ | 131 072 | 16 384 | — | — |
| google-vertex | Запрос / 1М: 85,26 ₽; Ответ / 1М: 85,26 ₽ | 128 000 | 115 200 | — | — |
| groq | Запрос / 1М: 69,86 ₽; Ответ / 1М: 93,54 ₽ | 131 072 | 32 768 | — | — |
| parasail/fp8 | Запрос / 1М: 26,05 ₽; Ответ / 1М: 59,21 ₽ | 131 072 | 16 384 | — | — |
| sambanova-turbo | Запрос / 1М: 71,05 ₽; Ответ / 1М: 142,09 ₽ | 131 072 | 3 072 | — | — |
| akashml/fp8 | Запрос / 1М: 23,68 ₽; Ответ / 1М: 61,57 ₽ | 131 072 | 128 000 | — | — |
| google-vertex/us-central1 | Запрос / 1М: 85,26 ₽; Ответ / 1М: 85,26 ₽ | 128 000 | 8 192 | — | — |
| coreweave/fp16 | Запрос / 1М: 84,07 ₽; Ответ / 1М: 84,07 ₽ | 128 000 | 115 200 | — | — |
| cloud-ru | Запрос / 1М: 30,55 ₽; Ответ / 1М: 90,52 ₽ | 131 072 | — | — | да |

## Быстрый старт

```bash
curl https://polza.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $POLZA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/llama-3.3-70b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Привет"
    }
  ]
}'
```

## Ссылки

- Страница: https://polza.ai/models/meta-llama/llama-3.3-70b-instruct
- Каталог: https://polza.ai/models