Документация по завершениям чатов в нефильтрованном API

Аутентификация и базовый URL

Начните с вставки вашего ключа в Authorization header. Мы используем стандартную схему Bearer-токена, которая работает с любым клиентом, совместимым с OpenAI. Войдите через Google или email, чтобы получить ключ немедленно. Номер телефона не требуется для настройки аккаунта.

Базовый URL — HTTPS://api.chataiunfiltered.com/v1. Ваши запросы должны быть направлены сюда. Идентификатор модели, который нужно использовать — uncensored. Это обеспечивает, что вы получаете конкретную uncensored модель, которую мы размещаем на наших собственных серверах.

Copycurl https://api.chataiunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Эндпоинт Chat Completions

Отправить POST запрос на /v1/chat/completions с вашим промптом. API возвращает текст напрямую без лишней мишуры. Вы можете установить такие параметры, как temperature или top_p для контроля случайности.

Используйте Python SDK для быстрой интеграции. Просто установите базовый URL на наш эндпоинт. Клиент берет на себя сериализацию JSON для вас. Ошибки, такие как недействительные ключи, возвращают код статуса 401. Истечение кредита вызывает ошибку 402.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chataiunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Потоковые ответы с SSE

Передавайте токены вашим пользователям для более плавного опыта. Установите stream параметр на true в вашем запросе. API возвращает Server-Sent Events (SSE) по мере поступления ответа. Это снижает воспринимаемую задержку для длинных ответов.

Используйте SDK для Node.js для эффективной обработки потока. Разбирайте фрагменты по мере их поступления. Последний фрагмент включает статистику общего использования токенов. Это помогает точно отслеживать расходы в реальном времени. Держите соединение открытым до тех пор, пока поток не закроется.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chataiunfiltered.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Использование инструментов и вызов функций

Определите инструменты в запросе, чтобы позволить модели вызывать функции. API поддерживает стандартные определения инструментов с параметрами. Передайте имя функции и аргументы в ответе. Вы выполняете функцию на своей стороне.

Отправьте результаты обратно в модель в новом сообщении. Это позволяет многократно взаимодействовать с внешними данными. Модель обрабатывает логику того, когда вызывать инструменты. Используйте tool_choice чтобы принудительно или разрешить автоматический выбор. Это бесшовно работает с нашей uncensored-моделью.

Формат ответа и режим JSON

Принудированный структурированный вывод путем установки response_format для {"type": "json_object"}. Модель вернёт валидный JSON вместо обычного текста. Это удобно для парсинга данных в вашем приложении. Убедитесь, что ваш запрос чётко описывает ожидаемую схему.

API не строго валидирует вашу JSON-схему. Он полагается на модель для генерации корректного синтаксиса. Если вывод некорректен, возможно, потребуется повторная попытка. Используйте это для задач извлечения данных. Комбинируйте с потоковой передачей для быстрого парсинга.

Лимиты токенов и контекстное окно

Окно контекста поддерживает до 100 000 токенов в общей сложности. Это включает как входной промпт, так и выходное завершение. Вы можете сгенерировать до 16 000 токенов за запрос. Максимальный вывод по умолчанию составляет 2 048 токена, если не указано иное.

Лимиты позволяют 300 запросов в минуту на ключ. Вы можете выполнять 8 параллельных запросов одновременно. Максимальный размер тела запроса — 8 МБ. Ошибки и отказы не расходуют ваши предоплаченные средства. Это делает тестирование безопасным и экономичным.

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)