Mixtral 8x22B Instruct

Суть

Это инструктивно дообученная версия базовой Mixtral 8x22B от Mistral AI. Модель предназначена для диалогов и выполнения пользовательских инструкций; в отличие от базовой версии, она настроена на формат общения с ассистентом.

Сильные стороны

Mistral отмечает способности модели к математике и программированию, а также многоязычную работу на английском, французском, итальянском, немецком и испанском. Поддерживается формирование вызовов функций: модель может выдать структурированный запрос к инструменту, если приложение передало описание доступных функций и корректно обрабатывает результат.

Контекст и модальности

Согласно данным каталога, длина контекста составляет 65 536 токенов. На вход принимаются текст и файлы, на выходе модель генерирует текст. Заявленное Mistral окно контекста подходит для анализа длинных документов и поиска в них конкретных сведений.

Типовые сценарии

Модель можно использовать для диалоговых помощников, объяснения и решения задач по математике, генерации и разбора кода, работы с длинными материалами, а также для систем, где ответ должен запускать функцию или передавать задачу внешнему инструменту. Вызов инструмента требует интеграции со стороны приложения и сам по себе не означает, что модель выполняет внешнее действие.

Ограничения

Ответы требуют проверки: модель может ошибаться в фактах, вычислениях и коде. Вызовы функций нужно согласовать с форматом интеграции и обрабатывать в приложении. Наличие поддержки файлов во входных данных каталога само по себе не уточняет, какие именно типы файлов и способы их разбора доступны в конкретной реализации.

Отличие от соседей по семейству

Mixtral 8x22B Instruct — версия для следования инструкциям и диалога, тогда как Mixtral 8x22B — базовая модель, которую можно использовать как основу для дальнейшей настройки. Это отдельный вариант семейства Mixtral, в котором также есть Mixtral 8x7B; заявленные характеристики и задачи одной версии не следует автоматически переносить на другую.