Сборка AI
Meta

Llama 3.1

MetaLlama2024ТекстУстарела

Компактная языковая модель Meta с поддержкой длинного контекста до 131 тысячи токенов, подходит для быстрой обработки текста и вызова инструментов.

Открыть в чате

Основные характеристики

Провайдер
Meta
Семейство
Llama
Дата выхода
23 июля 2024 г.
Принимает
Текст
Возвращает
Текст
Контекст
131 тыс. токенов
Макс. ответ
118 тыс. токенов
Доступ по API
Да
Идентификатор для API
llama-3-1

Цена

МодельВход, за 1000 токеновВыход, за 1000 токенов
llama-3-1от 0,0041 ₽от 0,0066 ₽

Ориентировочная стоимость по рынку: точная цена зависит от объёма — напишите нам, подберём условия.

Возможности и сценарии использования

  • вызов инструментов
  • структурированный вывод
  • текст
  • длинный контекст

Llama 3.1 — текстовая модель Meta на 8 миллиардов параметров с инструкционной настройкой. Выпущена в июле 2024 года как часть обновлённого семейства Llama.

Модель работает с контекстным окном до 131 тысячи токенов и может генерировать ответы длиной до 118 тысяч токенов. Это делает её удобной для задач, требующих обработки больших объёмов текста: анализа документов, работы с длинными диалогами или технической документацией.

Поддерживает вызов инструментов и структурированный вывод, что позволяет интегрировать модель в сценарии автоматизации и получать результаты в заданном формате. Относительно небольшой размер обеспечивает высокую скорость работы при сохранении качества генерации.

Как работать с Llama 3.1 через API

Инструкция и управление подключением будут доступны в личном кабинете. Опция пока в разработке, поэтому подключение выполняется по запросу.

1. Получение API-ключа

Ключ создаётся в личном кабинете. Не передавайте его третьим лицам: любой запрос с ключом списывается с вашего баланса.

2. Запрос к модели

Формат запроса совместим с OpenAI: достаточно сменить адрес, ключ и значение model. Идентификатор Llama 3.1: llama-3-1

import requests

response = requests.post(
    "https://api.sborka.ai/v1/chat/completions",
    headers={
        "Content-Type": "application/json",
        "Authorization": "Bearer <ваш-api-ключ>",
    },
    json={
        "model": "llama-3-1",
        "messages": [{"role": "user", "content": "Привет!"}],
    },
)
print(response.json())

Адрес в примере показательный: https://api.sborka.ai/v1

3. Параметры запроса

ПараметрТипОписание
modelstringИдентификатор модели: llama-3-1
messagesarrayМассив сообщений диалога (system, user, assistant). Обязательный.
max_tokensintegerМаксимум токенов в ответе.
temperaturenumberСлучайность ответа: ниже — точнее, выше — разнообразнее.
streambooleanПотоковая выдача ответа по частям. По умолчанию: false.

4. Подключение в плагины и IDE

В расширениях и редакторах, которые поддерживают OpenAI-совместимые API, укажите адрес https://api.sborka.ai/v1, свой ключ и модель llama-3-1.

Доступна в агрегаторах

Похожие модели

  • Llama 4

    Meta

    Llama 4 — открытое мультимодальное семейство Meta для работы с текстом и изображениями, генерации кода и задач с длинным контекстом.

    УстарелаLlama2025Текст
    Выход: 5 апреля 2025 г.

  • Llama 3.3

    Meta

    Многоязычная текстовая модель Meta семейства Llama версии 3.3 для диалога, генерации текста, вызова инструментов и структурированного вывода с контекстом до 131 тыс. токенов.

    УстарелаLlama2024Текст131 тыс. токенов
    Выход: 6 декабря 2024 г.от 0,0083 ₽ за 1000 токенов

  • Llama 3.2

    Meta

    Llama 3.2 — поколение Meta из двух линеек: лёгкие текстовые 1B и 3B для смартфонов и edge-устройств, а также мультимодальные Vision 11B и 90B, которые принимают изображения.

    УстарелаLlama2024Текст128 тыс. токенов
    Выход: 25 сентября 2024 г.

  • Llama 3.2 1B

    Meta

    Компактная текстовая модель на 1,2 млрд параметров для работы на смартфонах и устройствах с ограниченными ресурсами.

    УстарелаLlama2024Текст128 тыс. токенов
    Выход: 25 сентября 2024 г.

  • Llama 3.2 3B

    Meta

    Llama 3.2 3B — компактная текстовая модель Meta на 3,21 млрд параметров для локального запуска на устройстве: длинный контекст, вызов инструментов, работа на восьми официальных языках.

    УстарелаLlama2024Текст128 тыс. токенов
    Выход: 25 сентября 2024 г.

  • Llama 3.1 70B

    Meta

    Llama 3.1 70B — текстовая модель Meta с контекстом 128 тыс. токенов, поддержкой восьми языков, генерацией кода и вызовом инструментов.

    УстарелаLlama2024Текст128 тыс. токенов
    Выход: 23 июля 2024 г.

Частые вопросы

Это текстовая языковая модель Meta на 8 миллиардов параметров с инструкционной настройкой, выпущенная в июле 2024 года.

Модель подходит для обработки больших объёмов текста, анализа документов, работы с длинными диалогами, вызова инструментов и генерации структурированного вывода.

Модель поддерживает контекстное окно до 131 тысячи токенов и может генерировать ответы длиной до 118 тысяч токенов.

Модель принимает текст на входе и генерирует текст на выходе, с возможностью структурированного формата ответа.