Dokumentace API Proxy GPT

Ověření a základní URL

Odeslat svůj API klíč v Authorization hlavička k https://api.proxygpt.cc/v1. Služba je kompatibilní s API openai, takže nemusíte přepisovat logiku své stávající integrace. Stačí aktualizovat základní URL a vložit své přihlašovací údaje do standardního formátu hlavičky. Na účet máte jeden aktivní klíč; vygenerování nového klíče okamžitě zneplatní ten předchozí. To udržuje věci jednoduché bez složité režie směrování. Klíč získáte okamžitě přes Google nebo e-mailový účet bez ověření telefonem.

První požadavek

Odešlete standardní volání dokončení chatu k otestování připojení. ID modelu je uncensored a zpracovává generování textu bez odmítání obsahu pro zákonné témata pro dospělé. Získáte přímou odpověď s vámi zvolenými parametry. To funguje pro vývojáře, kteří chtějí přístup k modelu bez zbytečných funkcí podnikových řešení. Tělo požadavku je minimální a přehledné.

Copycurl https://api.proxygpt.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "fetch https api with python requests library"}]
  }'

Toto vrací textovou odpověď okamžitě. Systém nepoužívá vaše prompty pro výcvik. Můžete začít experimentovat s různými hodnotami temperature a top-p pro ladění tónu. Je to spolehlivá alternativa k GPT bez omezení pro váš konkrétní případ použití.

Python SDK

Použijte oficiální knihovnu OpenAI pro Python s vlastní základní URL. Tento přístup zajišťuje, že nejste vázáni na konkrétního dodavatele. Pokud se vaše potřeby změní, můžete snadno přepínat mezi různými proxy službami. Struktura kódu zůstává identická se standardními implementacemi. Stačí směrovat klienta na naši základní URL a poskytnout klíč. Tato metoda podporuje všechny standardní parametry jako temperature a stop.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.proxygpt.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Objekt odpovědi obsahuje vygenerovaný text a využití tokenů. Výsledek můžete iterovat pro extrakci obsahu. Toto je nejčastější způsob, jakým vývojáři integrují náš nemoderní LLM do svých aplikací. Automaticky za vás řeší detaily HTTP.

SDK pro Node

Inicializujte klienta OpenAI se správnou základní URL v prostředích Node.js. To vám umožňuje používat známé metody pro chat completion. Můžete předat stejné parametry, jaké byste použili pro jakoukoli jinou službu kompatibilní s OpenAI. Kód je stručný a snadno čitelný. Nemusíte instalovat žádné další závislosti kromě standardního SDK.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxygpt.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Odpověď zahrnuje úplná data dokončení. Obsah zprávy můžete přímo přístup. To je efektivní pro úlohy generování na straně serveru. Proxy řeší základní síťové požadavky, takže se můžete soustředit na logiku své aplikace. Je to levná možnost LLM API pro škálování vašich projektů.

Streamované odpovědi

Povolte streamování nastavením stream parameter na true. To odesílá částečné odpovědi, jak jsou generovány. Text můžete uživatelům zobrazovat v reálném čase bez čekání na úplné dokončení. Server odesílá události server-sent events (SSE) pro každý token. Poslední část obsahuje celkové využití tokenů pro požadavek. To je užitečné pro chatová rozhraní, která potřebují okamžitou zpětnou vazbu.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zpracujte události proudu pro akumulaci finálního textu. Proxy služba GPT zajišťuje, že streamování je stabilní a konzistentní. Proud můžete předčasně zrušit, pokud si uživatel rozmyslí. To snižuje zbytečné využití tokenů a šetří kredity. Je to klíčová funkce pro responzivní uživatelský zážitek.

Limitu rychlosti a chyby

API vynucuje přísné limity rychlosti pro zajištění spolehlivosti. Jste omezeni na 300 požadavků za minutu a 8 souběžných požadavků na klíč. Pokud tyto limity překročíte, obdržíte chybu 429. Chyby ověření vracejí 401 pro neplatné klíče. Nedostatek prostředků způsobí chybu 402. Kontextové okno je 100 000 tokenů pro prompt a dokončení dohromady. Max výstup je 16 000 tokenů, pokud neurčíte nižší max_tokens. Udržujte těla požadavků pod 8 MB. Tato omezení jsou jasná a konzistentní. Nemusíte se bát skrytého omezování. Služba je navržena pro vývojáře, kteří potřebují předvídatelný výkon. Chyby jsou zdarma, takže platíte pouze za úspěšná dokončení.