Mistral Nemo

Суть

Mistral NeMo — текстовая языковая модель, созданная Mistral AI совместно с NVIDIA. Разработчик выпустил базовую и инструкционную версии под лицензией Apache 2.0. В каталоге для этой модели указаны текстовый ввод и вывод, а также контекст размером 128 000 токенов.

Сильные стороны

Модель рассчитана на многоязычные задачи: среди языков, для которых Mistral отмечает особую поддержку, — английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и хинди. Инструкционная версия предназначена для диалога и точного следования запросам; разработчик также отмечает работу с рассуждениями и кодом. Модель обучалась использованию вызова функций, что позволяет применять её в сценариях с передачей задач внешним инструментам.

Контекст и модальности

Согласно данным каталога, модель принимает текст и генерирует текст; длина контекста — 128 000 токенов. Это позволяет включать в запросы объёмные материалы, например длинные документы или историю переписки. Поддержка изображений в данных каталога не указана.

Типовые сценарии

Модель можно использовать для многоязычных диалоговых помощников, ответов по предоставленному тексту, составления и редактирования материалов, генерации кода и автоматизации задач через инструменты. Большое контекстное окно удобно, когда запросу нужен длинный исходный текст или продолжительная история взаимодействия.

Ограничения

В карточке инструкционной версии на Hugging Face указано, что у неё нет встроенных механизмов модерации. Поэтому при использовании в приложениях, где нужны ограничения на ответы, разработчику следует отдельно предусмотреть фильтрацию и проверки. Модель описана как текстовая; возможности обработки изображений каталог не заявляет.

Отличие от соседей по семейству

Mistral NeMo позиционируется как более крупная альтернатива Mistral 7B, совместимая с системами, рассчитанными на эту модель. По описанию Mistral, инструкционная версия лучше Mistral 7B следует точным указаниям, ведёт многоходовый диалог и справляется с рассуждениями и генерацией кода. В линейке NeMo также доступны базовая и инструкционная версии: первая служит исходной моделью, вторая настроена на выполнение пользовательских запросов.