Proxy gpt API documentation

Authentication and base URL

ส่งคีย์ API ของคุณใน Authorization header เพื่อ https://api.proxygpt.cc/v1. บริการนี้เข้ากันได้กับ API ของ openai ดังนั้นคุณไม่จำเป็นต้องเขียนลอจิกการผสานรวมที่มีอยู่ใหม่ เพียงอัปเดต URL พื้นฐานและใส่ข้อมูลประจำตัวของคุณลงในรูปแบบหัวเรื่องมาตรฐาน คุณมีคีย์ใช้งานเดียวต่อบัญชี การสร้างคีย์ใหม่จะทำให้คีย์ก่อนหน้าหมดอายุทันที ซึ่งทำให้การจัดการง่ายโดยไม่ต้องมีภาระการกำหนดเส้นทางที่ซับซ้อน คุณสามารถรับคีย์ของคุณได้ทันทีผ่านการเข้าสู่ระบบด้วย Google หรืออีเมลโดยไม่ต้องยืนยันด้วยโทรศัพท์

คำขอครั้งแรก

ส่งคำขอ chat completion มาตรฐานเพื่อทดสอบการเชื่อมต่อ model ID คือ uncensored และรองรับการสร้างข้อความโดยไม่มีการปฏิเสธเนื้อหาสำหรับหัวข้อผู้ใหญ่ที่ถูกต้องตามกฎหมาย คุณจะได้รับคำตอบตรงไปตรงมาตามพารามิเตอร์ที่คุณเลือก วิธีนี้เหมาะสำหรับนักพัฒนาที่ต้องการเข้าถึงโมเดลโดยตรงโดยไม่มีความยุ่งยากจากฟีเจอร์ระดับองค์กร ร่างคำขอมีขนาดเล็กลงและตรงไปตรงมา

Copycurl https://api.proxygpt.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "fetch https api with python requests library"}]
  }'

สิ่งนี้ส่งคืนข้อความตอบกลับทันที ระบบไม่ใช้คำใบ้ของคุณสำหรับการฝึกฝน คุณสามารถเริ่มทดลองกับค่า temperature และ top-p ที่แตกต่างกันเพื่อปรับโทนเสียง นี่คือทางเลือก GPT แบบไม่เซ็นเซอร์ที่เชื่อถือได้สำหรับกรณีการใช้งานเฉพาะของคุณ

SDK Python

ใช้ไลบรารี Python ทางการพร้อม base URL แบบกำหนดเอง วิธีนี้รับประกันว่าคุณไม่ได้ผูกติดกับผู้ขายเฉพาะราย คุณสามารถสลับระหว่างบริการ proxy ต่างๆ ได้อย่างง่ายดายหากความต้องการของคุณเปลี่ยนแปลง โครงสร้างโค้ดจะเหมือนกับวิธีการมาตรฐาน เพียงชี้ client ไปยัง base URL ของเราและระบุ key ของคุณ วิธีนี้รองรับพารามิเตอร์มาตรฐานทั้งหมดเช่น temperature และ stop.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.proxygpt.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

วัตถุการตอบกลับประกอบด้วยข้อความที่สร้างขึ้นและการใช้งานโทเค็น คุณสามารถวนซ้ำผ่านผลลัพธ์เพื่อแยกเนื้อหา วิธีนี้เป็นวิธีที่นักพัฒนาใช้โมเดล LLM แบบไม่มีเซ็นเซอร์ของเราในการผสานรวมกับแอปพลิเคชันของพวกเขา มันจัดการรายละเอียด HTTP ให้คุณโดยอัตโนมัติ

Node SDK

เริ่มต้นใช้งาน OpenAI client ด้วย base URL ที่ถูกต้องในสภาพแวดล้อม Node.js สิ่งนี้ทำให้คุณสามารถใช้วิธีการที่คุ้นเคยสำหรับ chat completions คุณสามารถส่งพารามิเตอร์เดียวกันกับที่คุณใช้กับบริการที่เข้ากันได้กับ OpenAI อื่นๆ โค้ดกระชับและอ่านง่าย คุณไม่ต้องติดตั้ง dependencies เพิ่มเติมเกินกว่า SDK มาตรฐาน

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxygpt.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การตอบสนองรวมถึงข้อมูลการเติมเต็มแบบเต็มรูปแบบ คุณสามารถเข้าถึงเนื้อหาข้อความได้โดยตรง สิ่งนี้มีประสิทธิภาพสำหรับงานการสร้างฝั่งเซิร์ฟเวอร์ พร็อกซีจัดการคำขอเครือข่ายพื้นฐานดังนั้นคุณสามารถมุ่งเน้นไปที่ลอจิกแอปพลิเคชันของคุณได้ เป็นตัวเลือก API LLM ราคาถูกสำหรับการปรับขนาดโปรเจกต์ของคุณ

การตอบสนองแบบสตรีม

เปิดใช้งานการสตรีมโดยการตั้งค่า stream ตั้งค่าเป็น true ซึ่งส่งคำตอบบางส่วนทันทีที่สร้างเสร็จ คุณสามารถแสดงข้อความให้ผู้ใช้แบบเรียลไทม์โดยไม่ต้องรอการตอบกลับแบบสมบูรณ์ เซิร์ฟเวอร์ส่งเหตุการณ์ที่ส่งโดยเซิร์ฟเวอร์ (SSE) สำหรับแต่ละโทเค็น ชุดสุดท้ายมีการใช้งานโทเค็นทั้งหมดสำหรับการร้องขอ ซึ่งจะมีประโยชน์สำหรับส่วนติดต่อแชทที่ต้องการการตอบกลับทันที

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

จัดการเหตุการณ์สตรีมเพื่อสะสมข้อความสุดท้าย บริการพร็อกซี GPT รับประกันว่าการสตรีมจะเสถียรและสม่ำเสมอ คุณสามารถยกเลิกสตรีมได้ล่วงหน้าหากผู้ใช้เปลี่ยนใจ สิ่งนี้ลดการใช้โทเค็นที่ไม่จำเป็นและประหยัดเครดิต เป็นคุณสมบัติสำคัญสำหรับประสบการณ์ผู้ใช้ที่ตอบสนอง

อัตราจำกัดการเรียกใช้และข้อผิดพลาด

API กำหนดอัตราจำกัดที่เข้มงวดเพื่อความน่าเชื่อถือ คุณจำกัดการเรียกใช้ไว้ที่ 300 ครั้งต่อนาที พร้อมการเรียกใช้พร้อมกันได้ 8 ครั้งต่อคีย์ หากเกินขีดจำกัดเหล่านี้ คุณจะพบข้อผิดพลาด 429 ข้อผิดพลาดการตรวจสอบสิทธิ์จะส่งรหัส 401 สำหรับคีย์ที่ไม่ถูกต้อง เงินไม่เพียงพอจะส่งผลให้เกิดข้อผิดพลาด 402 หน้าต่างบริบทคือ 100,000 tokens สำหรับ prompt และการตอบกลับรวมกัน ผลลัพธ์สูงสุดคือ 16,000 tokens เว้นแต่คุณจะระบุค่าที่ต่ำกว่า max_tokens. รักษาขนาด body ของคำขอไว้ต่ำกว่า 8 MB ขอบเขตเหล่านี้ชัดเจนและสม่ำเสมอ คุณไม่ต้องกังวลเรื่องการ throttling ที่ซ่อนอยู่ บริการนี้ถูกออกแบบมาเพื่อผู้พัฒนาที่ต้องการประสิทธิภาพที่คาดการณ์ได้ ข้อผิดพลาดไม่มีค่าใช้จ่าย ดังนั้นคุณจึงจ่ายเฉพาะสำหรับการสำเร็จสมบูรณ์เท่านั้น