# Llama 3.1 70B Instruct

> Текстовый ассистент для диалога, работы с длинными материалами, многоязычных задач и программирования; может использовать инструменты при соответствующей настройке.

- **ID для API:** `meta-llama/llama-3.1-70b-instruct`
- **Тип Модели:** Чат-модель
- **Контекст:** 131 072 токенов
- **Максимум на ответ:** 8 192 токенов
- **Вход:** текст → **Выход:** текст

## Описание

#### Суть
Инструктивная версия семейства Llama 3.1 от Meta, настроенная для диалогового взаимодействия и следования запросам. Модель генерирует текст и код, а при интеграции с подходящей системой может взаимодействовать с внешними инструментами. Meta позиционирует семейство для исследовательских и коммерческих задач.

#### Сильные стороны
Meta отмечает улучшения в рассуждениях, многоязычном общении и работе с длинным контекстом. Модель подходит для составления и переработки текстов, объяснений, ответов на вопросы и помощи с кодом. Форматы вызова инструментов позволяют подключать функции приложения — например, получать результаты внешних операций и продолжать диалог с их учётом.

#### Контекст и модальности
По данным каталога, длина контекста — 131 072 токена; на вход и выход подаётся текст. Модель не принимает изображения или аудио в этой конфигурации. Хотя она может подготовить запрос к инструменту, фактический вызов и получение актуальных данных требуют интеграции со стороны приложения.

#### Типовые сценарии
Подходит для диалоговых помощников, суммаризации длинных документов, многоязычных текстовых задач, черновиков и редактирования, объяснения идей и поддержки при написании кода. В приложениях с инструментами может участвовать в сценариях, где нужно передать запрос внешней функции и обработать её результат.

#### Ограничения
Это статическая модель, обученная на офлайн-данных: сама по себе она не просматривает интернет и не располагает гарантированно актуальной информацией. Ответы могут содержать ошибки, поэтому важные факты и код следует проверять. Поддержка инструментов зависит от формата запросов и реализации приложения. Использование весов регулируется лицензией Meta Llama 3.1 и политикой допустимого использования.

#### Отличие от соседей по семейству
Llama 3.1 включает варианты разных размеров, а эта инструктивная версия занимает промежуточное положение между более компактным вариантом и крупнейшей моделью семейства. В сравнении с базовой, не настроенной на инструкции версией, она предназначена прежде всего для общения с пользователем и выполнения запросов; по модальностям остаётся текстовой.

## Цены

- Запрос / 1М: 85,84 ₽
- Ответ / 1М: 85,84 ₽

## Параметры

max_tokens, temperature, top_p, top_k, stop

## Провайдеры

Выбрать Провайдера можно параметром `provider` в запросе.

| Провайдер | Цена | Контекст | Макс. ответ | Данные в РФ | 152-ФЗ |
| --- | --- | --- | --- | --- | --- |
| amazon-bedrock | Запрос / 1М: 85,84 ₽; Ответ / 1М: 85,84 ₽ | 131 072 | 8 192 | — | — |

## Быстрый старт

```bash
curl https://polza.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $POLZA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "meta-llama/llama-3.1-70b-instruct",
  "messages": [
    {
      "role": "user",
      "content": "Привет"
    }
  ]
}'
```

## Ссылки

- Страница: https://polza.ai/models/meta-llama/llama-3.1-70b-instruct
- Каталог: https://polza.ai/models