Llama Guard 4 12B

Суть

Это классификатор безопасности Meta, предназначенный для проверки как пользовательских запросов, так и ответов языковых моделей. Он возвращает текстовую метку safe или unsafe, а для небезопасного содержимого указывает нарушенные категории. Модель ориентирована на таксономию рисков MLCommons и может использоваться как отдельный фильтр внутри более широкой системы модерации.

Сильные стороны

Классификатор анализирует не только текст: он поддерживает смешанные запросы с текстом и изображениями, включая сообщения с несколькими изображениями. В карточке Meta также указана поддержка английского и нескольких языков, поддерживаемых предыдущей моделью Llama Guard 3. Модель объединяет возможности прежних текстового и визуального вариантов Guard в одном классификаторе. Среди проверяемых рисков — насилие и преступления, сексуальная эксплуатация, ненависть, самоповреждение, приватность, специализированные советы и нарушения, связанные с выборами или интеллектуальной собственностью.

Контекст и модальности

По данным каталога, контекст составляет 163840 токенов; на вход принимаются текст и изображения, на выходе генерируется текст. Несмотря на текстовый формат ответа, входная проверка может учитывать содержимое изображений вместе с текстом.

Типовые сценарии

Модель можно поставить перед генеративной системой, чтобы отсекать небезопасные пользовательские запросы, после неё — чтобы проверять готовые ответы, либо использовать обе проверки. Также она подходит для модерации сообщений, где текст сопровождается одним или несколькими изображениями. Результат классификации можно использовать в прикладной логике для маршрутизации, блокировки или дополнительной проверки контента.

Ограничения

Это классификатор, настроенный на заданные категории, а не универсальная проверка достоверности или безопасности. Meta отмечает возможные ограничения, обусловленные обучающими данными, в том числе для здравого смысла, языковых задач и охвата политики. Некоторые категории требуют актуальных фактов: для чувствительных сценариев, связанных с репутацией, авторскими правами или выборами, может понадобиться дополнительная проверка. Результаты для большого количества изображений могут отличаться от проверенных условий; также возможны обходы через состязательные примеры и prompt injection. Классификацию следует рассматривать как один из уровней защиты, а не гарантию безопасности.

Отличие от соседей по семейству

В описании Meta Llama Guard 4 представлена как единый вариант, сочетающий классификацию текста и изображений, в том числе нескольких изображений в одном запросе. В сравнении с Llama Guard 3-8B и визуальной Llama Guard 3-11B модель объединяет их основные сценарии: мультиязычную проверку текста и анализ смешанных текстово-графических входов. Она создана на основе Llama 4 Scout: разреженная архитектура исходной модели преобразована в плотную и затем донастроена для классификации безопасности.