Dokumentacja API Proxy GPT

Uwierzytelnianie i URL bazowy

Wyślij swój klucz API w Authorization nagłówek do https://api.proxygpt.cc/v1. Usługa jest zgodna z API openai, więc nie musisz przepisywać logiki istniejącej integracji. Po prostu zaktualizuj bazowy adres URL i wstrzyknij swoje dane uwierzytelniające w standardowym formacie nagłówka. Masz jeden aktywny klucz na konto; wygenerowanie nowego klucza natychmiast unieważnia poprzedni. Utrzymuje to prostotę bez złożonego nakładu routingu. Możesz uzyskać swój klucz natychmiast poprzez logowanie przez Google lub e-mail bez weryfikacji telefonu.

Pierwsze żądanie

Wykonaj standardowe wywołanie uzupełniania czatu, aby przetestować połączenie. Identyfikator modelu to uncensored i obsługuje generowanie tekstu bez odmów treści dla legalnych tematów dla dorosłych. Otrzymujesz bezpośrednią odpowiedź z wybranymi przez siebie parametrami. Działa to dla deweloperów, którzy chcą uzyskać bezpośredni dostęp do modelu bez zbędnych funkcji enterprise. Ciało żądania jest minimalne i proste.

Copycurl https://api.proxygpt.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "fetch https api with python requests library"}]
  }'

To zwraca odpowiedź tekstową natychmiast. System nie wykorzystuje Twoich promptów do treningu. Możesz zacząć eksperymentować z różnymi wartościami temperatury i top-p, aby dobrać ton. To niezawodna alternatywa dla GPT bez cenzury dla Twojego konkretnego przypadku użycia.

SDK Python

Użyj oficjalnej biblioteki Python OpenAI z niestandardowym URL bazowym. To podejście zapewnia, że nie jesteś uzależniony od konkretnego dostawcy. Możesz łatwo przełączać się między różnymi usługami proxy, jeśli Twoje potrzeby się zmienią. Struktura kodu pozostaje identyczna ze standardowymi implementacjami. Po prostu ukierunkuj klienta na nasz URL bazowy i podaj swój klucz. Ta metoda obsługuje wszystkie standardowe parametry, takie jak temperature i stop.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.proxygpt.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Obiekt odpowiedzi zawiera wygenerowany tekst oraz zużycie tokenów. Możesz iterować przez wynik, aby wyodrębnić treść. Jest to najczęstszy sposób, w jaki programiści integrują nasz model LLM bez cenzury z ich aplikacjami. Automatycznie obsługuje za Ciebie szczegóły HTTP.

SDK Node

Zainicjuj klienta OpenAI z prawidłowym podstawowym adresem URL w środowiskach Node.js. Pozwala to na używanie znanych metod dla ukończenia czatu. Możesz przekazać te same parametry, co w przypadku dowolnej innej usługi kompatybilnej z OpenAI. Kod jest zwięzły i łatwy do odczytania. Nie musisz instalować dodatkowych zależności poza standardowym SDK.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxygpt.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Odpowiedź zawiera pełne dane uzupełnienia. Możesz uzyskać bezpośredni dostęp do treści wiadomości. Jest to wydajne dla zadań generowania po stronie serwera. Proxy obsługuje podstawowe żądania sieciowe, dzięki czemu możesz skupić się na logice swojej aplikacji. Jest to tania opcja API LLM do skalowania Twoich projektów.

Odpowiedzi strumieniowe

Włącz strumieniowanie, ustawiając stream ustaw na true. Wysyła częściowe odpowiedzi w miarę ich generowania. Możesz wyświetlać tekst użytkownikom w czasie rzeczywistym bez czekania na pełne zakończenie. Serwer wysyła zdarzenia wysłane przez serwer (SSE) dla każdego tokena. Ostatni fragment zawiera całkowite użycie tokenów dla żądania. Jest to przydatne dla interfejsów czatu, które potrzebują natychmiastowej informacji zwrotnej.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Obsłuż zdarzenia strumienia, aby zebrać końcowy tekst. Usługa proxy GPT zapewnia, że strumieniowanie jest stabilne i spójne. Możesz anulować strumień wcześnie, jeśli użytkownik zmieni zdanie. To zmniejsza niepotrzebne zużycie tokenów i oszczędza kredyty. Jest to kluczowa funkcja dla responsywnych doświadczeń użytkownika.

Limity szybkości i błędy

API narzuca ścisłe limity szybkości, aby zapewnić niezawodność. Jesteś ograniczony do 300 żądań na minutę i 8 jednoczesnych żądań na klucz. Jeśli przekroczysz te limity, otrzymasz błąd 429. Błędy uwierzytelnienia zwracają 401 dla nieprawidłowych kluczy. Niewystarczające środki powodują błąd 402. Okno kontekstowe wynosi 100 000 tokenów dla promptu i uzupełnienia łącznie. Maksymalna liczba tokenów wyjściowych wynosi 16 000, chyba że określisz niższą max_tokens. Zachowaj ciała żądań poniżej 8 MB. Te limity są jasne i spójne. Nie musisz martwić się ukrytym throttlingiem. Usługa jest zaprojektowana dla programistów, którzy potrzebują przewidywalnej wydajności. Błędy są darmowe, więc płacisz tylko za udane uzupełnienia.