Command R+ (08-2024)

Суть

Command R+ версии 08-2024 — языковая модель Cohere для диалоговых приложений и задач с длинным контекстом. Она ориентирована на корпоративные сценарии, где ответ нужно формировать с опорой на документы или последовательность действий через подключённые инструменты.

Сильные стороны

Модель рассчитана на сложные RAG-сценарии и многошаговое использование инструментов: она может выбирать, когда вызвать инструмент, а также использовать результаты одного вызова в следующих шагах. В версии 08-2024 Cohere отмечает улучшения в принятии решений о выборе инструментов, следовании инструкциям в системном сообщении, обработке структурированных данных и качестве цитирования. Для RAG-сценариев можно отключать цитаты. Обновление также повысило пропускную способность примерно на 50% и снизило задержки примерно на 25% относительно предыдущей версии Command R+ при сохранении аппаратного следа.

Контекст и модальности

По данным каталога, модель принимает и генерирует текст, а длина контекста составляет 128 000 токенов. Для ответов с опорой на источники документы или результаты поиска нужно передать модели в рамках RAG-процесса; доступ к внешним источникам сам по себе не подразумевается.

Типовые сценарии

Модель подходит для корпоративного поиска и ответов по внутренней документации, многошаговых агентов, использующих API или другие инструменты, а также для извлечения и анализа структурированных сведений. Cohere позиционирует Command R+ для более сложных RAG-процессов и агентных задач, тогда как Command R — для более простого поиска и одиночных вызовов инструментов.

Ограничения

Знания версии 08-2024 основаны на обучающих данных до февраля 2023 года; факты о более поздних событиях могут быть неверными. Для актуальных сведений следует подключать поиск или предоставлять свежие документы. Вызовы инструментов и RAG требуют соответствующей интеграции со стороны приложения.

Отличие от соседей по семейству

В сравнении с предыдущей Command R+ версия 08-2024 ориентирована на те же сложные RAG- и многошаговые агентные задачи, но, по данным Cohere, работает с большей пропускной способностью и меньшими задержками. По сравнению с Command R, Command R+ предназначена для более сложных цепочек поиска и использования инструментов; Command R Cohere связывает с более простыми RAG-задачами и одиночными вызовами.