gpt-oss-safeguard-20b

Суть

OpenAI gpt-oss-safeguard-20b — модель с открытыми весами для классификации контента по правилам, которые задаёт разработчик. При обработке она учитывает и саму политику, и текст, который нужно оценить, а затем выдаёт решение и объяснение. Правила задаются во время запроса, поэтому их можно менять без дополнительного обучения модели.

Сильные стороны

Модель рассчитана на случаи, когда политика специфична для продукта, меняется со временем или требует тонких суждений. Объяснение помогает проверять, как модель применила правило, а не только получать метку. Подход может быть полезен, когда трудно собрать достаточно примеров для отдельного классификатора. Веса доступны для самостоятельного использования и адаптации по лицензии Apache 2.0.

Контекст и модальности

По данным каталога, длина контекста — 131 072 токена. На вход принимает текст и генерирует текстовый ответ. Модель может оценивать отдельные сообщения, ответы модели или диалоги целиком, если они представлены в тексте.

Типовые сценарии

Подходит для модерации и фильтрации пользовательских сообщений, проверки ответов чат-бота, а также разметки материалов по внутренним правилам сервиса. Например, правила могут описывать нежелательные публикации на форуме или признаки потенциально фиктивного отзыва. Итоговые метки можно использовать в составе процесса проверки контента; решение о последующих действиях остаётся за разработчиком.

Ограничения

Классификация с рассуждением может требовать заметных вычислений и времени, поэтому модель не всегда подходит для проверки всего потока контента с низкой задержкой. OpenAI отмечает, что специализированные классификаторы, обученные на большом наборе качественно размеченных примеров, могут точнее справляться со сложными рисками. Результаты стоит проверять на собственных данных и правилах, особенно перед автоматическими действиями.

Отличие от соседей по семейству

Это вариант семейства gpt-oss-safeguard, созданный на основе gpt-oss-20b и дообученный для классификации безопасности. В отличие от базовой модели семейства gpt-oss, он ориентирован на применение заданной политики и выдачу классификационного решения с обоснованием. В семействе также есть более крупный вариант; здесь акцент сделан на модели меньшего размера.