Перейти к основному содержанию
Polza.ai предоставляет доступ к моделям от разных провайдеров. В этом гайде вы узнаете, как выбирать оптимального провайдера для ваших задач.

​
Что такое провайдер?

Провайдер — это компания или сервис, предоставляющий доступ к AI моделям. Одна и та же модель может быть доступна через разных провайдеров с разной ценой, скоростью и доступностью.

​
Доступные провайдеры

OpenAI

GPT-4o, GPT-4o-mini, o3 и др.

Anthropic

Claude Sonnet, Claude Opus и др.

Google

Gemini Pro, Gemini Flash и др.

Meta

Llama и др.

DeepSeek

DeepSeek V3, DeepSeek R1 и др.

Другие

Mistral, Qwen и др.

​
Как выбрать провайдера

​
Автоматический выбор (рекомендуется)

По умолчанию Polza.ai автоматически выбирает оптимального провайдера на основе доступности, скорости и стоимости. Не нужно передавать параметр provider — система сама определит лучший вариант. 
// Автоматический выбор провайдера — ничего указывать не нужно
const completion = await openai.chat.completions.create({
  model: 'openai/gpt-4o',
  messages: [{ role: 'user', content: 'Привет!' }]
});

​
Параметр provider

Для управления выбором провайдера передайте объект provider в запросе:
ПолеТипОписание
orderstring[]Приоритетный порядок провайдеров
onlystring[]Белый список — использовать только указанных провайдеров
ignorestring[]Чёрный список — исключить указанных провайдеров
sortstringСортировка: price, latency или throughput
max_priceobjectМаксимальные цены (см. ниже)
allow_fallbacksbooleanРазрешить фолбэк на другие провайдеры при ошибке

​
Поля max_price

ПолеТипОписание
promptnumberМакс. цена за промпт (RUB за миллион токенов)
completionnumberМакс. цена за completion (RUB за миллион токенов)
imagenumberМакс. цена за изображение (RUB)
audionumberМакс. цена за аудио (RUB за миллион токенов)
requestnumberМакс. цена за запрос (RUB)

​
Примеры

​
Приоритет провайдеров

Укажите предпочтительный порядок провайдеров. Если первый недоступен — запрос уйдёт ко второму. 
const completion = await openai.chat.completions.create({
  model: 'openai/gpt-4o',
  messages: [{ role: 'user', content: 'Привет!' }],
  // @ts-ignore - расширенный параметр Polza.ai
  provider: {
    order: ['OpenAI', 'Anthropic'],
    allow_fallbacks: true
  }
});

​
Белый список (only)

Ограничьте запрос только указанными провайдерами: 
const completion = await openai.chat.completions.create({
  model: 'openai/gpt-4o',
  messages: [{ role: 'user', content: 'Привет!' }],
  // @ts-ignore
  provider: {
    only: ['OpenAI']
  }
});

​
Чёрный список (ignore)

Исключите определённых провайдеров: 
{
  "provider": {
    "ignore": ["DeepInfra", "Together"]
  }
}

​
Сортировка по цене / скорости

{
  "provider": {
    "sort": "price"
  }
}

​
Фильтрация по максимальной цене

Ограничьте стоимость запроса: 
{
  "provider": {
    "sort": "price",
    "max_price": {
      "prompt": 10,
      "completion": 20
    }
  }
}

​
Комбинирование параметров

Все параметры можно комбинировать: 
{
  "provider": {
    "only": ["OpenAI", "Anthropic"],
    "sort": "price",
    "max_price": {
      "prompt": 15,
      "completion": 30
    },
    "allow_fallbacks": true
  }
}

​
Получение информации о провайдере

В ответе API можно увидеть, какой провайдер обработал запрос: 
{
  "id": "gen_123",
  "model": "openai/gpt-4o",
  "provider": "openai-direct",
  "choices": [...],
  "usage": {...}
}

​
Советы и лучшие практики

Автоматический выбор провайдера обеспечивает лучшую доступность и оптимальную цену. При недоступности одного провайдера система автоматически переключится на другой.
При явном выборе провайдера включайте allow_fallbacks: true, чтобы запрос не упал при временной недоступности выбранного провайдера.
При разработке проверяйте, что ваш код работает с разными провайдерами — могут быть небольшие различия в ответах.
Разные провайдеры имеют разные цены. Используйте статистику использования для контроля расходов.

​
Следующие шаги

Каталог моделей

Полный список доступных моделей

Статистика

Мониторинг использования и затрат