Alice AI LLM

Суть

Alice AI LLM — флагманская текстовая модель Яндекса для генерации ответов и ведения диалога. Её можно использовать как основу для чат-помощников и других приложений, которым нужно понимать запрос пользователя и формулировать ответ на естественном языке.

Сильные стороны

Модель предназначена для широкого круга задач с текстом: от свободного общения до анализа и обобщения информации. В описании семейства Alice AI Яндекс также выделяет сценарии, в которых модель работает совместно с поиском: поиск помогает находить и актуализировать сведения, а языковая модель — формировать ответ на их основе.

Контекст и модальности

Модель принимает текст и генерирует текст. Длина контекста в каталоге — 32 000 токенов. Обработка изображений, аудио и видео для этой модели в каталоге не заявлена.

Типовые сценарии

Модель может применяться для диалоговых помощников, ответов на вопросы, черновиков и переписывания текстов, а также для суммаризации и структурирования текстовой информации. Для ответов, требующих актуальных сведений, полезна связка с поиском или другим внешним источником данных.

Ограничения

Это текстовая модель: она не предназначена для непосредственного анализа изображений, аудио или видео. Ответы могут содержать ошибки или устаревшие сведения; критичные факты стоит проверять. Само наличие языковой модели не означает, что каждый ответ автоматически подкреплён поиском.

Отличие от соседей по семейству

Alice AI LLM следует отличать от Alice AI LLM Search: в последней поисковые технологии подключаются для расширения и актуализации знаний и поиска по внешним данным. В семействе также есть Alice AI LLM Flash — отдельная модель, которую Яндекс описывает как вариант, оптимизированный для скорости и массовых бизнес-задач.