GPT-4o-mini (2024-07-18)

Суть

GPT-4o mini — компактная языковая модель OpenAI для приложений, где важны быстрая обработка запросов и работа с большими объёмами контекста. Она подходит для диалогов, извлечения сведений из документов и изображений, а также для генерации ответов и другого текста. OpenAI отмечает её применимость в задачах рассуждения, математики и программирования.

Сильные стороны

Модель рассчитана на сценарии, в которых запросы к ИИ выполняются часто или входят в цепочку нескольких операций: например, передают большой фрагмент переписки, кодовую базу или данные из внешних систем. Разработчик также указывает на улучшенную относительно GPT-3.5 Turbo работу с длинным контекстом и хорошие результаты в вызове функций. Это полезно для приложений, которые получают данные или выполняют действия через подключённые системы.

Контекст и модальности

Контекстное окно — 128 000 токенов. Согласно данным каталога, на вход можно передавать текст, изображения и файлы; модель генерирует текст. Поэтому она может сочетать текстовый запрос с визуальными материалами или содержимым файла, а результат выдавать в виде текстового ответа.

Типовые сценарии

Модель можно использовать для чат-поддержки, подготовки ответов по истории переписки, извлечения структурированных сведений из чеков и других файлов, а также для обработки изображений. В разработке она подходит для помощников по коду и математики, а также для приложений, где модель анализирует предоставленный контекст и формирует текстовый результат. OpenAI отдельно приводит в качестве подходящих сценариев последовательные или параллельные вызовы модели и работу с внешними API.

Ограничения

Модель формирует текст, поэтому каталог не указывает генерацию изображений, аудио или видео. В анонсе OpenAI указана граница знаний до октября 2023 года; для сведений о более поздних событиях следует передавать актуальные данные в запросе. Как и другие языковые модели, она может ошибаться: важные ответы и извлечённые данные требуют проверки.

Отличие от соседей по семейству

В семействе GPT-4o mini занимает компактный вариант для задач, где достаточно текстового ответа и важны скорость и масштабируемость. GPT-4o OpenAI представляет как флагманскую модель семейства, а mini — как более небольшой вариант для прикладных потоков и частых вызовов. По сравнению с GPT-3.5 Turbo разработчик отмечает улучшенную работу с длинным контекстом, мультимодальными задачами и вызовом функций.