Sınır Tanımayan API Chat Completions Dokümantasyonu

Kimlik Doğrulama ve Base URL

Anahtarınızı Authorization header. Herhangi bir OpenAI-uyumlu istemci ile çalışan standart bir Bearer token şeması kullanıyoruz. Anahtarınızı hemen almak için Google veya e-posta ile giriş yapın. Hesap kurulumu için telefon numarası gerekmez.

Temel URL HTTPS://api.chataiunfiltered.com/v1'dir. İstekleriniz buraya işaret etmelidir. Kullanılacak model kimliği uncensored. Bu, kendi sunucularımızda barındırdığımız özel uncensored modeli aldığınızdan emin olursunuz.

Copycurl https://api.chataiunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Chat Completions Endpoint

Bir POST istem /v1/chat/completions isteminizle birlikte. API, ekstra süslemeler olmadan doğrudan metin döndürür. Şu parametreleri ayarlayabilirsiniz: temperature ou top_p rastgeleliği kontrol etmek için.

Hızlı entegrasyon için Python SDK'sını kullanın. Base URL'i uç noktamıza ayarlayın. İstemci JSON serileştirmeyi sizin için yönetir. Geçersiz anahtarlar gibi hatalar 401 durum kodlarını döndürür. Kredi bitmesi 402 hatası tetikler.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chataiunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SSE ile Akış Yanıtları

Daha akıcı bir deneyim için tokenları kullanıcılarınıza akın. Ayarlayın stream parametresi true istekinizde. API, yanıt geldiğinde Sunucu Tarafından Gönderilen Etkinlikler (SSE) döndürür. Bu, uzun çıktılar için algılanan gecikmeyi azaltır.

Akışı verimli bir şekilde işlemek için Node SDK'sını kullanın. Gelen parçaları ayrıştırın. Son parça toplam token kullanım istatistiklerini içerir. Bu, maliyetleri gerçek zamanlı olarak doğru bir şekilde izlemenize yardımcı olur. Akış kapanana kadar bağlantıyı açık tutun.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chataiunfiltered.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Araç Kullanımı ve İşlev Çağırma

Modelin işlevleri çağırabilmesi için istek gövnenize araçlar tanımlayın. API, parametrelerle standart araç tanımlamalarını destekler. Yanıtta işlev adını ve argümanları iletin. İşlevi kendi tarafınızda çalıştırın.

Sonuçları dış verilerle çoklu tur etkileşimleri için yeni bir mesajda modele gönderin. Model, araçları ne zaman çağıracağına dair mantığı işler. Kullanın tool_choice otomatik seçimi zorlamak veya izin vermek için. Bu, uncensored modelimizle sorunsuz şekilde çalışır.

Yanıt Formatı ve JSON Modu

response_format'ı ayarlayarak yapılandırılmış çıktı zorlayın response_format için {"type": "json_object"}. Model, düz metin yerine geçerli JSON döndürecektir. Bu, verileri uygulamanıza ayrıştırmak için kullanışlıdır. Prompt'unuzun beklenen şemayı açıkça tanıml ettiğinden emin olun.

API, JSON şemanızı sıkı bir şekilde doğrulamaz. Doğru sözdiziminin üretilmesi modeli üzerine dayanır. Çıktı bozuksa yeniden deneme yapmanız gerekebilir. Bu, güvenilir veri çıkarma görevleri için kullanın. Hızlı ayrıştırma için bunu akış (streaming) ile birleştirin.

Token Limitleri ve Bağlam Penceresi

Bağlam penceresi toplamda 100.000 tokene kadar destekler. Bu, hem giriş istemini hem de çıktı tamamlamasını içerir. İstek başına 16.000 token üretebilirsiniz. Belirtilmezse varsayılan maksimum çıktı 2.048 token'dır.

Hız limitleri anahtar başına dakikada 300 istek sağlar. Aynı anda 8 eşzamanlı isteğiniz olabilir. Maksimum istek gövdesi boyutu 8 MB'tır. Hatalar ve reddedilmeler ön ödemeli kredinizi tüketmez. Bu da testleri güvenli ve maliyet etkin hale getirir.

Akış

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)