Chat Completions
POST /v1/chat/completions 是主要的 OpenAI 相容聊天介面。
BASH
請求體
常用欄位:
| 欄位 | 說明 |
|---|---|
model | 必填,模型 ID。 |
messages | 必填,對話訊息陣列。 |
temperature, top_p, n, stop | 採樣控制參數,會傳給相容的上游。 |
max_tokens, max_completion_tokens | 輸出 Token 限制。 |
stream | 設定為 true 啟用 SSE 流式輸出。 |
stream_options.include_usage | 上游支援時在流式響應中返回 usage。 |
tools, tool_choice | OpenAI 相容工具呼叫。 |
response_format | 對支援的模型請求結構化輸出。 |
reasoning_effort | 支援推理的模型可使用 low、medium、high。 |
modalities, audio | 支援多模態音訊的模型可使用。 |
user | 可選,用於你自己的終端使用者標識。 |
不同模型支援的參數不同。如果響應裡出現某個參數不被支援,請移除該參數或改用其他模型。
流式輸出
JSON
響應使用 OpenAI 風格 SSE chunk,並以 [DONE] 結束。
工具呼叫
JSON
支援工具呼叫的模型會接收工具定義並返回 OpenAI 相容的工具呼叫響應。
舊 Completions
舊文字補全客戶端可使用 POST /v1/completions。
