gpt-3.5-turbo-16k。
核心能力
- OpenAI 相容 - 修改 base_url 即可使用 OpenAI SDK
- 串流輸出 - 透過 SSE 即時返回 token
- 多輪對話 - 使用帶 role 的 messages
快速範例
- cURL
- Python
- Streaming
curl "https://api.mixroute.ai/v1/chat/completions" \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-3.5-turbo-16k",
"messages": [
{
"role": "user",
"content": "Explain quantum entanglement in simple terms."
}
],
"max_tokens": 256
}'
from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.mixroute.ai/v1")
response = client.chat.completions.create(
model="gpt-3.5-turbo-16k",
messages=[{"role": "user", "content": "Explain quantum entanglement in simple terms."}],
max_tokens=256,
)
print(response.choices[0].message.content)
from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.mixroute.ai/v1")
stream = client.chat.completions.create(
model="gpt-3.5-turbo-16k",
messages=[{"role": "user", "content": "Write a short poem about the sea."}],
max_tokens=256,
stream=True,
)
for chunk in stream:
print(chunk.choices[0].delta.content or "", end="")
參數
| 參數 | 類型 | 必填 | 說明 |
|---|---|---|---|
model | string | 是 | 固定為 gpt-3.5-turbo-16k。 |
messages | array | 是 | 包含 role 與 content 的對話訊息。 |
max_tokens | integer | 否 | 最大生成 token 數。 |
stream | boolean | 否 | 啟用 SSE 串流輸出，預設 false。 |
temperature | number | 否 | 模型支援時用於控制取樣隨機性。 |
top_p | number | 否 | 模型支援時使用的核取樣閾值。 |
stop | string | array | 否 | 觸發停止生成的序列。 |
tools | array | 否 | OpenAI 相容工具定義。 |