Tài liệu API Proxy GPT

Xác thực và base URL

Gửi khóa API của bạn trong Authorization header để https://api.proxygpt.cc/v1. Dịch vụ tương thích với API openai, vì vậy bạn không cần phải viết lại logic tích hợp hiện có của mình. Chỉ cần cập nhật URL cơ bản và đưa thông tin xác thực của bạn vào định dạng tiêu đề tiêu chuẩn. Bạn có một khóa hoạt động duy nhất cho mỗi tài khoản; tạo khóa mới ngay lập tức sẽ vô hiệu hóa khóa trước đó. Điều này giữ cho mọi thứ đơn giản mà không có quá trình định tuyến phức tạp. Bạn có thể lấy khóa của mình ngay lập tức thông qua đăng nhập bằng Google hoặc email mà không cần xác minh số điện thoại.

Yêu cầu đầu tiên

Thực hiện lệnh gọi hoàn thành trò chuyện tiêu chuẩn để kiểm tra kết nối. ID mô hình là uncensored và nó xử lý việc tạo văn bản mà không từ chối nội dung cho các chủ đề người lớn hợp pháp. Bạn nhận được phản hồi trực tiếp với các tham số đã chọn của mình. Điều này hoạt động cho các nhà phát triển muốn truy cập thô vào mô hình mà không có sự ồn ào của các tính năng doanh nghiệp. Thân yêu cầu rất tối thiểu và rõ ràng.

Copycurl https://api.proxygpt.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "fetch https api with python requests library"}]
  }'

Điều này trả về phản hồi văn bản ngay lập tức. Hệ thống không sử dụng các prompt của bạn để huấn luyện. Bạn có thể bắt đầu thử nghiệm với các giá trị temperature và top-p khác nhau để tinh chỉnh giọng điệu. Đây là một lựa chọn thay thế GPT không kiểm duyệt đáng tin cậy cho trường hợp sử dụng cụ thể của bạn.

SDK Python

Sử dụng thư viện Python chính thức của OpenAI với URL cơ sở tùy chỉnh. Cách tiếp cận này đảm bảo bạn không bị khóa vào một nhà cung cấp cụ thể. Bạn có thể chuyển đổi giữa các dịch vụ proxy khác nhau một cách dễ dàng nếu nhu cầu của bạn thay đổi. Cấu trúc mã vẫn giống hệt với các triển khai tiêu chuẩn. Chỉ cần chỉ định máy khách trỏ đến URL cơ sở của chúng tôi và cung cấp khóa của bạn. Phương pháp này hỗ trợ tất cả các tham số tiêu chuẩn như temperature và stop.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.proxygpt.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Đối tượng phản hồi chứa văn bản được tạo và thông tin sử dụng token. Bạn có thể lặp qua kết quả để trích xuất nội dung. Đây là cách phổ biến nhất để các nhà phát triển tích hợp LLM không kiểm duyệt của chúng tôi vào các ứng dụng của họ. Nó tự động xử lý các chi tiết HTTP cho bạn.

SDK Node

Khởi tạo client OpenAI với URL cơ sở chính xác trong các môi trường Node.js. Điều này cho phép bạn sử dụng các phương thức quen thuộc cho hoàn thành trò chuyện. Bạn có thể truyền cùng các tham số như bạn sẽ làm cho bất kỳ dịch vụ tương thích OpenAI nào khác. Mã ngắn gọn và dễ đọc. Bạn không cần cài đặt thêm các phụ kiện ngoài SDK tiêu chuẩn.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxygpt.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phản hồi bao gồm đầy đủ dữ liệu hoàn tất. Bạn có thể truy cập nội dung tin nhắn trực tiếp. Điều này hiệu quả cho các tác vụ tạo nội dung phía máy chủ. Proxy xử lý các yêu cầu mạng cơ bản để bạn có thể tập trung vào logic ứng dụng của mình. Đây là một tùy chọn API LLM giá rẻ để mở rộng quy mô các dự án của bạn.

Các phản hồi streaming

Bật chế độ streaming bằng cách đặt stream tham số thành true. Điều này gửi các phản hồi một phần khi chúng được tạo. Bạn có thể hiển thị văn bản cho người dùng theo thời gian thực mà không cần đợi kết quả hoàn tất. Máy chủ gửi sự kiện gửi bởi máy chủ (SSE) cho mỗi token. Chunk cuối cùng chứa tổng số token sử dụng cho yêu cầu. Điều này hữu ích cho các giao diện trò chuyện cần phản hồi ngay lập tức.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý các sự kiện luồng để tích lũy văn bản cuối cùng. Dịch vụ proxy GPT đảm bảo rằng việc phát trực tiếp ổn định và nhất quán. Bạn có thể hủy luồng sớm nếu người dùng thay đổi ý định. Điều này giảm thiểu việc sử dụng token không cần thiết và tiết kiệm tín dụng. Đây là một tính năng quan trọng cho trải nghiệm người dùng phản hồi nhanh.

Giới hạn tốc độ và lỗi

API áp dụng các giới hạn tốc độ nghiêm ngặt để đảm bảo độ tin cậy. Bạn được giới hạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng bộ mỗi khóa. Nếu bạn vượt quá các giới hạn này, bạn sẽ nhận lỗi 429. Lỗi xác thực trả về 401 cho khóa không hợp lệ. Thiếu tiền dẫn đến lỗi 402. Cửa sổ ngữ cảnh là 100,000 token cho lời nhắc và phần hoàn thành kết hợp. Đầu ra tối đa là 16,000 token trừ khi bạn chỉ định mức thấp hơn max_tokens. Hãy giữ khối yêu cầu của bạn dưới 8 MB. Các giới hạn này rõ ràng và nhất quán. Bạn không cần lo lắng về việc hạn chế ẩn. Dịch vụ được thiết kế cho các nhà phát triển cần hiệu suất dự đoán được. Lỗi miễn phí, vì vậy bạn chỉ trả tiền cho các phần hoàn thành thành công.