Intfloat Multilingual-E5-Large

Суть

Multilingual-E5-large — модель для преобразования текста в плотные векторные представления, или эмбеддинги. Векторы позволяют сопоставлять тексты по смыслу, а не только по совпадению слов. Модель предназначена для работы с многоязычными текстами и может использоваться в задачах поиска и сравнения.

Сильные стороны

Модель поддерживает многоязычные сценарии, включая поиск, где запрос и подходящий документ могут быть написаны на разных языках. Для корректного использования авторы рекомендуют задавать префикс query: для запроса и passage: для текста-кандидата. В задачах сходства и кластеризации для обоих текстов можно использовать query: . Эти префиксы важны: без них качество представлений может снижаться.

Контекст и модальности

На вход принимает текст, на выходе возвращает эмбеддинги; генерация ответов обычным текстом не является его задачей. Контекст — до 512 токенов. Более длинные материалы обрезаются, поэтому их обычно разбивают на фрагменты и кодируют отдельно.

Типовые сценарии

Подходит для семантического поиска по коллекциям документов, извлечения релевантных фрагментов для систем вопрос-ответ, межъязыкового поиска, поиска перефразировок и оценки семантического сходства. Векторные представления также можно использовать для кластеризации текстов или как признаки в последующих моделях. Для поиска с различием между запросом и документом используйте соответствующие префиксы; для симметричного сравнения — query: .

Ограничения

Это модель представления текста, а не диалоговая модель: она не формулирует объяснения и не отвечает на вопросы сама по себе. Обработка ограничена контекстом в 512 токенов, а обрезка длинного текста может потерять значимые детали. В карточке модели также отмечено, что качество может быть ниже для языков с ограниченным объёмом обучающих данных. Результат зависит от подготовки текста и корректного выбора префикса.

Отличие от соседей по семейству

Модель относится к семейству multilingual-E5, в котором представлены варианты small, base и large. Данный вариант — large; его следует рассматривать как средство получения многоязычных эмбеддингов, а не как самостоятельный генератор текста. Для разных задач семейство предоставляет варианты разных размеров, однако карточка модели не задаёт универсального правила выбора между ними.