# GPT-3.5 Turbo 16k

> Текстовая чат-модель для диалогов и работы с объёмными материалами: увеличенный контекст помогает передавать больше исходного текста в одном запросе.

- **ID для API:** `openai/gpt-3.5-turbo-16k`
- **Тип Модели:** Чат-модель
- **Контекст:** 16 385 токенов
- **Максимум на ответ:** 4 096 токенов
- **Вход:** текст → **Выход:** текст

## Описание

#### Суть
GPT-3.5 Turbo 16k — текстовая чат-модель OpenAI. В официальном анонсе разработчик описывает её как вариант GPT-3.5 Turbo с увеличенным контекстом. Это позволяет передавать модели больше текста в рамках одного обращения, например для анализа документа или продолжительного диалога.

#### Сильные стороны
Ключевое отличие этой версии — возможность вместить более длинный запрос и связанный с ним контекст, чем у стандартного GPT-3.5 Turbo. Это удобно, когда важны сведения из разных частей предоставленного материала: их можно включить в обращение вместе с инструкцией, а не разбивать текст на множество отдельных фрагментов.

#### Контекст и модальности
Размер контекста в данных каталога — 16 385 токенов. Модель принимает текст и генерирует текст. Поддержка изображений, аудио и других типов входных данных в каталоге не указана.

#### Типовые сценарии
Модель подходит для текстовых диалогов, составления черновиков и ответов на вопросы по переданным материалам. Увеличенный контекст может быть полезен для краткого пересказа документов, поиска нужных сведений в длинном тексте, сопоставления его частей и обработки нескольких связанных фрагментов за один запрос. Для таких задач полезно формулировать запрос конкретно и указывать, на какие аспекты материала обратить внимание.

#### Ограничения
Увеличенный контекст означает, что в запрос можно поместить больше текста, но сам по себе не гарантирует точность каждого ответа или одинаково подробную обработку всех частей. Важные выводы стоит проверять по исходному материалу. По данным каталога, модель работает только с текстом; использовать её для непосредственного анализа изображений или аудио нельзя.

#### Отличие от соседей по семейству
В анонсе OpenAI версия 16k представлена как вариант GPT-3.5 Turbo с контекстом в четыре раза больше стандартной версии. Поэтому её основное отличие — не отдельный тип входных данных, а возможность передавать более объёмный текст в одном запросе. Официальный анонс отдельно описывает вызов функций для версий с суффиксом 0613; это описание не следует автоматически переносить на данную модель.

## Цены

- Запрос / 1М: 362,63 ₽
- Ответ / 1М: 483,51 ₽

## Параметры

temperature, top_p, max_completion_tokens, tools, tool_choice, stop, frequency_penalty, presence_penalty, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, max_tokens

## Провайдеры

Выбрать Провайдера можно параметром `provider` в запросе.

| Провайдер | Цена | Контекст | Макс. ответ | Данные в РФ | 152-ФЗ |
| --- | --- | --- | --- | --- | --- |
| azure | Запрос / 1М: 362,63 ₽; Ответ / 1М: 483,51 ₽ | 16 385 | 4 096 | — | — |

## Быстрый старт

```bash
curl https://polza.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $POLZA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "openai/gpt-3.5-turbo-16k",
  "messages": [
    {
      "role": "user",
      "content": "Привет"
    }
  ]
}'
```

## Ссылки

- Страница: https://polza.ai/models/openai/gpt-3.5-turbo-16k
- Каталог: https://polza.ai/models