Документация API: Quickstart Guide

Базовый URL и аутентификация

API Heretic AI полностью совместимо с OpenAI. Вы взаимодействуете с ним, указав клиенту наш базовый URL: https://api.hereticai.cc/v1. Аутентификация relies на одном API-ключе на аккаунт, который генерируется мгновенно при регистрации через Google или email. Передайте этот ключ в Authorization заголовок как Bearer-токен. Идентификатор модели просто uncensored. Эта единственная модель обрабатывает все ваши запросы без сложности маршрутизации. Ошибки 401 указывают на недействительный ключ, а 402 означает, что вам нужно больше предоплаченного крипто-баланса.

Copycurl https://api.hereticai.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "generate twenty test cases"}]
  }'

Эндпоинт Chat Completions

Отправляйте текстовые запросы, используя POST /v1/chat/completions endpoint. endpoint. API ожидает стандартный массив сообщений, содержащий историю вашего разговора или промпт. Он возвращает сгенерированный текст в choices массив. Это чистый утилитарный API: текст на вход, текст на выход. Вы платите только за потребленные токены. Предоплаченные кредиты не истекают, а отказы или ошибки не стоят токенов. Этот подход устраняет блокировку подписок и непредсказуемые бесплатные тарифы.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hereticai.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Потоковые ответы (SSE)

Включите потоковую передачу токенов в реальном времени, установив stream: true в вашем запросе. API возвращает Server-Sent Events (SSE) для каждого сгенерированного токена. Это позволяет постепенно отображать вывод, что критически важно для приложений, чувствительных к задержкам. Статистика использования токенов появляется в последнем чанке потока. Эта функция бесшовно работает со стандартными SDK OpenAI, которые автоматически обрабатывают SSE. Она обеспечивает немедленную обратную связь без ожидания полного завершения.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling и инструменты

API поддерживает вызов функций с tools и tool_choice параметры. Определите схемы ваших инструментов в запросе, и модель будет возвращать структурированные вызовы функций при необходимости. Это позволяет реализовать сложные рабочие процессы, где LLM решает, какое действие предпринять следующим. Вы можете принудительно заставить использовать конкретные инструменты или позволить модели выбирать свободно. Эта возможность необходима для создания агентных приложений, взаимодействующих с внешними системами или базами данных.

Режим JSON

Обеспечьте детерминированный вывод путем установки response_format для {"type": "json_object"}. Модель ограничивает ответ валидным JSON, что жизненно важно для программной обработки. Это снижает необходимость в постобработке с помощью регулярных выражений. Она гарантирует, что вывод может быть напрямую потреблен вашим кодом. Это особенно полезно для задач извлечения структурированных данных или генерации конфигураций.

Параметры и лимиты

Управляйте генерацией с помощью стандартных параметров, таких как temperature, top_p, и seed. Контекстное окно составляет 100,000 токенов для промпта плюс завершение. Максимальный вывод — 16,000 токенов за запрос, или 2,048, если max_tokens is unset. Лимиты скорости составляют 300 запросов в минуту и 8 одновременных запросов на ключ. Тело запроса должно оставаться в пределах 8 МБ. Эти лимиты обеспечивают стабильную работу при высокой нагрузке для разработчиков.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hereticai.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);