Command R (08-2024)

Суть

Это диалоговая языковая модель Cohere, предназначенная для прикладной генерации текста. Версия 08-2024 обновляет Command R: разработчик отмечает улучшения в многоязычном поиске с дополненной генерацией (RAG), использовании инструментов, математике, коде и рассуждениях.

Сильные стороны

Модель может формировать ответы на основе предоставленных фрагментов документов и добавлять к ним ссылки на источники. Для инструментов она выбирает действия из списка, переданного в запросе; в обновлении улучшено решение о том, когда и какой инструмент использовать. Cohere также указывает на улучшенное следование инструкциям системного сообщения, анализ структурированных данных, контроль длины и форматирования и качество цитирования. Модель может отказаться отвечать на вопросы, для которых недостаточно информации.

Контекст и модальности

По данным каталога, контекст составляет 128 000 токенов. Вход и выход — текстовые. Это позволяет передавать длинные текстовые запросы и документы, но изображения, аудио и видео в модальностях модели не заявлены.

Типовые сценарии

Модель можно использовать для ответов по корпоративным документам и базам знаний с RAG, многоязычного поиска и вопросов к материалам, а также для разговорных интерфейсов, вызывающих доступные инструменты. Другие подходящие задачи — генерация и анализ текста, работа с кодом, математические запросы и преобразование структурированных данных. Чтобы получить ответы с опорой на источники, приложите релевантные фрагменты; для вызова инструментов передайте модели их описания.

Ограничения

Модель принимает и возвращает текст: каталог не указывает поддержку изображений, аудио или видео. RAG требует предоставленных документов или фрагментов, а применение инструментов — списка доступных инструментов. Возможность отказаться от ответа при недостатке данных не гарантирует безошибочность остальных ответов; важные факты следует проверять по исходным материалам.

Отличие от соседей по семейству

Это обновлённая версия Command R, а не Command R+. По заявлению Cohere, обновление улучшает RAG на нескольких языках, выбор и использование инструментов, а также работу с математикой, кодом и рассуждениями. В сравнении с предыдущей Command R разработчик также сообщает о повышении пропускной способности и снижении задержки; эти сведения относятся к сравнению версий, а не гарантируют скорость в каждом окружении.