Llama 3.2 3B Instruct

Суть

Инструктивная текстовая модель Meta из семейства Llama 3.2. Она предназначена для диалоговых сценариев и задач, в которых ассистент следует запросам пользователя, помогает переработать текст или извлечь и кратко изложить сведения. Модель построена на авторегрессионной архитектуре Transformer; её диалоговая версия прошла дополнительную настройку для следования инструкциям и предпочтениям людей.

Сильные стороны

В карточке разработчика среди целевых задач указаны многоязычный диалог, поиск и извлечение знаний, суммаризация, помощь с письмом и переписывание запросов. Модель рассчитана на применение в ассистентских и агентных системах, где она формирует текстовые ответы и может использоваться как компонент более крупного приложения. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; на иных языках поведение может зависеть от дообучения и конкретной реализации.

Контекст и модальности

Контекст — 128 000 токенов. На вход подаётся текст, на выходе модель генерирует текст. Обработка изображений и других нетекстовых входов для этой версии не заявлена.

Типовые сценарии

Модель можно использовать для диалоговых помощников, составления кратких изложений, поиска по базе знаний в связке с внешним поисковым или retrieval-компонентом, а также для редактирования текста и переформулирования запросов. Для приложений на устройствах с ограниченными ресурсами Meta также описывает варианты семейства с квантованием; доступность и характеристики конкретной сборки зависят от реализации.

Ограничения

Это статическая модель, обученная на офлайн-данных: она не получает новые сведения автоматически и может выдавать неточные ответы. Контекст сам по себе не обеспечивает доступ к документам или интернету — для поиска нужны подключённые источники. Результаты в важных сценариях следует проверять, а развёртывание дополнять подходящими мерами безопасности. Использование регулируется лицензией Llama 3.2 и политикой допустимого использования Meta.

Отличие от соседей по семейству

В текстовой линейке Llama 3.2 представлены варианты 1B и 3B; эта версия относится к более ёмкому из этих двух вариантов. Семейство также включает отдельные мультимодальные модели, но описываемая Instruct-версия предназначена для работы с текстом.