Command R7B (12-2024)

Суть

Command R7B — текстовая языковая модель Cohere для прикладных задач, в которых важны скорость и умеренные требования к вычислительным ресурсам. Она предназначена для диалогов и инструкций, а также для работы с документами, кодом и внешними инструментами.

Сильные стороны

Модель обучена отвечать с опорой на предоставленные фрагменты документов в сценариях retrieval-augmented generation (RAG). Она также умеет формировать вызовы инструментов, например API, баз данных или поисковых систем, и использовать результаты этих вызовов в дальнейшем ответе. В описании Cohere Labs отдельно отмечены суммаризация, ответы на вопросы, рассуждения и задачи с кодом. Для многошаговых задач модель может комбинировать инструменты; сами инструменты при этом должны быть подключены приложением.

Контекст и модальности

Согласно данным каталога, длина контекста — 128 000 токенов. Вход и выход — текстовые: модель не принимает изображения или аудио и не генерирует их.

Типовые сценарии

Подходит для чат-ботов и помощников, которые отвечают по внутренним документам, извлекают из текста нужные сведения, составляют сводки или помогают с кодом. В приложениях с поиском и внешними API может выступать компонентом агентного процесса: выбирать подходящий инструмент, передавать ему запрос и формулировать ответ по результатам.

Ограничения

Для доступа к свежим или закрытым сведениям нужны документы, поиск или другие подключённые инструменты — сама модель не заменяет их. Результаты вызова инструмента также зависят от приложения и источника данных. Модель работает только с текстом. Карточка Cohere Labs указывает для открытых весов лицензию CC-BY-NC и требования соблюдать политику допустимого использования; условия конкретного способа развёртывания следует проверять отдельно.

Отличие от соседей по семейству

Cohere позиционирует R7B как компактную и быструю модель семейства Command R, ориентированную на сценарии, где важны скорость и вычислительная эффективность. При этом она сохраняет поддержку RAG, вызова инструментов и многошаговых агентных задач. Это делает её вариантом для более лёгких рабочих процессов, а не основанием считать её равной по возможностям более крупным моделям семейства.