API-dokumentaatio ja päätepisteet

Todennus ja base URL

API vaatii kelvollisen avaimen jokaiseen pyyntöön. Luo tämä avain heti rekisteröitymisen jälkeen Google-tilillä tai sähköpostiosoitteella. Lisää avain Authorization header käyttäen Bearer mekanismin. Kaikkien pyyntöjen perus-URL-osoite on HTTPS://api.qwenaipricing.com/v1. Tämä URL toimii virallisten OpenAI-SDK:iden ja minkä tahansa yhteensopivan asiakkaan kanssa yksinkertaisesti päivittämällä perusmääritykset.

Chat Completions Endpoint

Pääasiallinen päätepiste on POST /v1/chat/completions. Se hyväksyy JSON-runkon, jossa on messages taulukko ja model kenttä. Aseta mallitunnus (model ID) arvoksi "uncensored" päästäksesi käsiksi suuren kielen malliin, joka on optimoitu rajoittamattomiin tuloksiin. Voit määrittää system-, user- ja assistant-roolit rakentaaksesi keskustelun kontekstin.

Copycurl https://api.qwenaipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the monthly cost for the 72B model?"}]
  }'

Vastaus sisältää luodun sisällön, käyttötilastot ja finish reasonin. Virheet palauttavat standardit HTTP-koodit kuten 401 virheellisille avaimille tai 402 jos esimaksuluottosi on loppu. API ei tue embedding-päätteitä, kuvagenerointia tai hienosäätöpäätteitä.

Python SDK -integraatio

Käytä virallista openai Python-paketti API:n käyttämiseen. Alusta asiakasohjelma antamalla API-avaimesi ja asettamalla perus-URL-osoite päätepisteeseemme. Tämä mahdollistaa tutkittujen menetelmien kuten chat.completions.create() uudelleenkirjoittamatta asiakaslogiikkaa. Kirjasto käsittelee JSON-serialisoinnin ja vastauksen jäsentämisen automaattisesti.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenaipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Vie viestisi listana sanakirjoja. SDK tukee kaikkia vakio-parametreja kuten temperature ja top_p. Tämä lähestymistapa varmistaa yhteensopivuuden olemassa olevien koodikantojen kanssa, jotka odottavat OpenAI-yhteensopivaa käyttöliittymää.

Node.js SDK:n integraatio

Node.js-SDK toimii samankaltaisesti Python-versiion kanssa. Asenna openai pakkaa ja määritä base URL -osoite ja API-avain. Voit sitten kutsua chat-täydennyspäätepistettä haluamillsi parametreilla. Tämä menetelmä sopii parhaiten palvelimen puolelle rakennettuihin sovelluksiin tai backend-palveluihin, jotka tarvitsevat tekstin tuottamista asynkronisesti.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenaipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Käsittele vastausvirtaa tai promisea prosessoidaksesi luotuja tokenneja. SDK hoitaa HTTP-yhteyden ja virheenkäsittelyn puolestasi. Voit myös käyttää GET /v1/models päätepiste saatavilla olevan mallin ID:n tarkistamiseen.

Virran ja käyttö

Ota streamaus käyttöön asettamalla stream: true pyynnössäsi. API palauttaa osittaisten vastausten Server-Sent Events (SSE) -virran. Jokainen osa sisältää katkelman luodusta tekstistä. Tämä on hyödyllistä reaaliaikaisissa käyttöliittymissä, jotka näyttävät tekstiä sen luomisen aikana.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Virrakanavan viimeinen palikka sisältää pyynnön token-käytön kokonaismäärän. Voit seurata esimaksukrediittiesi kulutusta näitä käyttötilastoja seuraamalla. Virheet streamauksen aikana voivat katkaista yhteyden ennenaikaisesti.

Rajoitukset, virheet ja kontekstiikkuna

Malli tukee 100 000 tokenin kontekstiikkunaa syötteen ja tuloksen yhteensä. Enimmäistuotos pyyntöä kohti on 16 000 tokenia. Jos et aseta max_tokens, raja-arvo on 2 048 tokenia. Sinulla on rajoitus 300 pyyntöön minuutissa ja 8 samanaikaista pyyntöä avainta kohden. Virhekoodi 429 tarkoittaa, että olet ylittänyt nämä rajat. Virheelliset tai hylätyt pyynnöt eivät kuluta saldoa. API ei tarjoa SLA-takuuja tai sertifiointeja.