GPT-4o (2024-08-06)

Суть

Версия GPT-4o от OpenAI, для которой в API добавлена поддержка Structured Outputs: разработчик может задать JSON Schema, а модель — формировать ответ в соответствии с её структурой. Это полезно, когда результат нужно не только прочитать, но и передать дальше в программу или рабочий процесс.

Сильные стороны

Ключевая особенность версии — генерация структурированных ответов по схеме через параметр response_format с типом json_schema. Также Structured Outputs можно использовать при вызове функций: режим strict: true помогает привести аргументы вызова к заданному описанию. OpenAI отмечает, что функция рассчитана на точное соответствие поддерживаемым схемам, а не просто на получение синтаксически корректного JSON.

Контекст и модальности

По данным каталога, модель принимает текст, изображения и файлы, а генерирует текст. Размер контекстного окна — 128 000 токенов. Структурированный JSON при этом остаётся текстовым ответом, формат которого задаётся отдельно через API.

Типовые сценарии

Модель подходит для извлечения сведений из текстовых материалов и их представления в фиксированных полях, подготовки списков задач или объектов данных, а также для ответов, которые приложение должно разобрать автоматически. Вызов функций позволяет использовать её в сценариях, где диалог связан с передачей параметров инструментам. Схема помогает ограничить форму ответа, но содержание и корректность извлечённых данных всё равно следует проверять в соответствии с задачей.

Ограничения

Structured Outputs поддерживает не весь стандарт JSON Schema: разработчику нужно сверяться с ограничениями API. Функция не отменяет защитные отказы: модель может вернуть отказ вместо объекта по схеме. Также соответствие формату не гарантируется, если генерация прервана. Поддержка изображений и файлов указана в данных каталога; конкретные ограничения обработки этих входов здесь не детализированы.

Отличие от соседей по семейству

Отличительная черта именно этого выпуска — применение json_schema в response_format: в анонсе OpenAI эта возможность указана для GPT-4o этой версии и GPT-4o mini. Structured Outputs также доступен через вызов функций у моделей с поддержкой инструментов, однако схема для непосредственного ответа в указанном формате — отдельная возможность данного выпуска.