GPT-3.5 Turbo 16k
ID: openai/gpt-3.5-turbo-16k
362,63 ₽
Запрос / 1М
483,51 ₽
Ответ / 1М
—
Изображение вход / 1М
—
Изображение выход / 1М
16K
Контекст
4K
Макс. ответ
Провайдеры для GPT-3.5 Turbo 16k
Подробнее о «OpenAI: GPT-3.5 Turbo 16k»
Текстовая чат-модель для диалогов и работы с объёмными материалами: увеличенный контекст помогает передавать больше исходного текста в одном запросе.
Суть
GPT-3.5 Turbo 16k — текстовая чат-модель OpenAI. В официальном анонсе разработчик описывает её как вариант GPT-3.5 Turbo с увеличенным контекстом. Это позволяет передавать модели больше текста в рамках одного обращения, например для анализа документа или продолжительного диалога.
Сильные стороны
Ключевое отличие этой версии — возможность вместить более длинный запрос и связанный с ним контекст, чем у стандартного GPT-3.5 Turbo. Это удобно, когда важны сведения из разных частей предоставленного материала: их можно включить в обращение вместе с инструкцией, а не разбивать текст на множество отдельных фрагментов.
Контекст и модальности
Размер контекста в данных каталога — 16 385 токенов. Модель принимает текст и генерирует текст. Поддержка изображений, аудио и других типов входных данных в каталоге не указана.
Типовые сценарии
Модель подходит для текстовых диалогов, составления черновиков и ответов на вопросы по переданным материалам. Увеличенный контекст может быть полезен для краткого пересказа документов, поиска нужных сведений в длинном тексте, сопоставления его частей и обработки нескольких связанных фрагментов за один запрос. Для таких задач полезно формулировать запрос конкретно и указывать, на какие аспекты материала обратить внимание.
Ограничения
Увеличенный контекст означает, что в запрос можно поместить больше текста, но сам по себе не гарантирует точность каждого ответа или одинаково подробную обработку всех частей. Важные выводы стоит проверять по исходному материалу. По данным каталога, модель работает только с текстом; использовать её для непосредственного анализа изображений или аудио нельзя.
Отличие от соседей по семейству
В анонсе OpenAI версия 16k представлена как вариант GPT-3.5 Turbo с контекстом в четыре раза больше стандартной версии. Поэтому её основное отличие — не отдельный тип входных данных, а возможность передавать более объёмный текст в одном запросе. Официальный анонс отдельно описывает вызов функций для версий с суффиксом 0613; это описание не следует автоматически переносить на данную модель.
