Llama 3.2 1B Instruct

Суть

Инструктивная текстовая модель Meta из семейства Llama 3.2. Она предназначена для диалогового взаимодействия и выполнения задач на естественном языке по запросу пользователя. Настройка с учётом инструкций делает её пригодной для работы в роли чат-ассистента.

Сильные стороны

Модель рассчитана на многоязычные диалоги, суммаризацию и задачи поиска или извлечения сведений из предоставленного контекста. Meta также указывает сценарии переписывания запросов и подсказок, а также помощь при написании текстов. Компактный вариант семейства может быть полезен там, где важны умеренные требования к вычислительным ресурсам; конкретная производительность зависит от оборудования и способа развёртывания.

Контекст и модальности

По данным каталога, модель принимает текст и генерирует текст, а длина контекста составляет 60 000 токенов. Изображения, аудио и видео в указанных модальностях не поддерживаются.

Типовые сценарии

Модель можно использовать как основу текстового помощника, для краткого пересказа материалов, диалога, преобразования формулировок и поиска информации по переданному тексту. Она также подходит для прототипирования агентных приложений, где модель формирует ответы на основе доступного ей контекста.

Ограничения

Это генеративная языковая модель: ответы могут содержать ошибки или неподтверждённые утверждения, поэтому важные выводы следует проверять. Карточка Meta описывает статичную модель, обученную на офлайн-данных, и указывает официально поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Работа с другими языками возможна не с той же заявленной поддержкой. Модель не заменяет профессиональную проверку в чувствительных областях.

Отличие от соседей по семейству

Текстовая линейка Llama 3.2 включает инструктивные варианты на 1B и 3B параметров. Рассматриваемый вариант относится к меньшему размеру, тогда как версия 3B — соседний текстовый вариант семейства. Обе модели предназначены для текстового ввода и вывода; отдельные мультимодальные модели Llama 3.2 относятся к другим вариантам семейства.