К списку моделей

Meta: Llama 3.1 70B Instruct

ID: meta-llama/llama-3.1-70b-instruct

Попробовать

45,48 ₽

Запрос / 1М

45,48 ₽

Ответ / 1М

—

Изображение вход / 1М

—

Изображение выход / 1М

131K

Контекст

16K

Макс. ответ

Провайдеры для Meta: Llama 3.1 70B Instruct

deepinfra/turbo

Статус

45,479 ₽Запрос / 1М

45,479 ₽Ответ / 1М

—Изображение вход / 1М

—Изображение выход / 1М

131KКонтекст

16KМакс. ответ

Дополнительные цены

—

Политика в отношении данных

Prompt Training:-

Prompt Logging:-

Moderation:Not moderated

Поддерживаемые параметры

response_formatmax_tokenstemperaturetop_pstopfrequency_penaltypresence_penaltyrepetition_penaltytop_kseedmin_ptoolstool_choicelogit_biasstructured_outputs

Hyperbolic

Статус

45,479 ₽Запрос / 1М

45,479 ₽Ответ / 1М

—Изображение вход / 1М

—Изображение выход / 1М

131KКонтекст

—Макс. ответ

Дополнительные цены

—

Политика в отношении данных

Prompt Training:-

Prompt Logging:-

Moderation:Not moderated

Поддерживаемые параметры

max_tokenstemperaturetop_pstopfrequency_penaltypresence_penaltyseedlogit_biastop_kmin_prepetition_penalty

Together

Статус

100,054 ₽Запрос / 1М

100,054 ₽Ответ / 1М

—Изображение вход / 1М

—Изображение выход / 1М

131KКонтекст

—Макс. ответ

Дополнительные цены

—

Политика в отношении данных

Prompt Training:-

Prompt Logging:-

Moderation:Not moderated

Поддерживаемые параметры

max_tokenstemperaturetop_pstopfrequency_penaltypresence_penaltytop_krepetition_penaltylogit_biasmin_ptoolstool_choice

amazon-bedrock

Статус

81,863 ₽Запрос / 1М

81,863 ₽Ответ / 1М

—Изображение вход / 1М

—Изображение выход / 1М

131KКонтекст

8KМакс. ответ

Дополнительные цены

—

Политика в отношении данных

Prompt Training:-

Prompt Logging:-

Moderation:Not moderated

Поддерживаемые параметры

max_tokenstemperaturetop_ptop_kstop

wandb/bf16

Статус

90,959 ₽Запрос / 1М

90,959 ₽Ответ / 1М

—Изображение вход / 1М

—Изображение выход / 1М

128KКонтекст

128KМакс. ответ

Дополнительные цены

90,959 ₽Кэш чтение / 1М

Политика в отношении данных

Prompt Training:-

Prompt Logging:-

Moderation:Not moderated

Поддерживаемые параметры

max_tokenstemperaturetop_ptop_krepetition_penaltyfrequency_penaltypresence_penaltystopseedstructured_outputslogprobstop_logprobs

coreweave/bf16

Статус

90,959 ₽Запрос / 1М

90,959 ₽Ответ / 1М

—Изображение вход / 1М

—Изображение выход / 1М

128KКонтекст

128KМакс. ответ

Дополнительные цены

90,959 ₽Кэш чтение / 1М

Политика в отношении данных

Prompt Training:-

Prompt Logging:-

Moderation:Not moderated

Поддерживаемые параметры

max_tokenstemperaturetop_ptop_krepetition_penaltyfrequency_penaltypresence_penaltystopseedstructured_outputslogprobstop_logprobsresponse_format

wandb-legacy/bf16

Статус

90,959 ₽Запрос / 1М

90,959 ₽Ответ / 1М

—Изображение вход / 1М

—Изображение выход / 1М

128KКонтекст

128KМакс. ответ

Дополнительные цены

90,959 ₽Кэш чтение / 1М

Политика в отношении данных

Prompt Training:-

Prompt Logging:-

Moderation:Not moderated

Поддерживаемые параметры

max_tokenstemperaturetop_ptop_krepetition_penaltyfrequency_penaltypresence_penaltystopseedstructured_outputslogprobstop_logprobs

API и примеры кода

Наш сервис предоставляет единый API, совместимый с OpenAI SDK. Просто укажите наш base_url и используйте ключ, полученныйв личном кабинете.

Подробнее о «Meta: Llama 3.1 70B Instruct»

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases.

It has demonstrated strong performance compared to leading closed-source models in human evaluations.

To read more about the model release, click here. Usage of this model is subject to Meta's Acceptable Use Policy.

Выбор за вами

Polza.AI — лучший выбор

для

Воспользуйтесь сервисом прямо сейчас

Получить API ключ