快速開始

LLMoxy 是一個 OpenAI 相容的大模型聚合閘道。你只需要一把 LLMoxy API Key,就能在 OpenAI、Claude、Gemini 等模型之間切換,不必分別申請或管理不同廠商的帳號。

建立 API Key

  1. 在 llmoxy.com 註冊並登入帳戶。
  2. 進入 控制檯 → 權杖,點擊新建。
  3. 複製生成的 Key,通常以 sk- 開頭。請妥善保管,洩露後請立即在同一頁面停用並重新建立。

Base URL

所有 OpenAI 相容的用戶端都使用同一個位址:

https://llmoxy.com/v1

其他請求格式(Anthropic、Gemini)使用同源的子路徑,詳見 相容格式。

第一條請求

curl https://llmoxy.com/v1/chat/completions \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.7",
    "messages": [
      { "role": "user", "content": "Say hello in one short sentence." }
    ]
  }'
BASH

把 <LLMOXY_API_KEY> 替換成你剛才建立的 Key。模型名稱可以透過 GET /v1/models 查看,或在控制檯的模型清單中瀏覽。

OpenAI SDK

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.LLMOXY_API_KEY,
  baseURL: "https://llmoxy.com/v1",
});

const response = await client.chat.completions.create({
  model: "grok-4.7",
  messages: [{ role: "user", content: "Write a haiku about routers." }],
});

console.log(response.choices[0]?.message?.content);
TS
from openai import OpenAI

client = OpenAI(
    api_key="<LLMOXY_API_KEY>",
    base_url="https://llmoxy.com/v1",
)

response = client.chat.completions.create(
    model="grok-4.7",
    messages=[{"role": "user", "content": "Write a haiku about routers."}],
)

print(response.choices[0].message.content)
PY

串流輸出

在 Chat Completions 請求中設定 stream: true,LLMoxy 會回傳 OpenAI 相容的 SSE 串流。

curl https://llmoxy.com/v1/chat/completions \
  -H "Authorization: Bearer <LLMOXY_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.7",
    "stream": true,
    "messages": [
      { "role": "user", "content": "Count from one to five." }
    ]
  }'
BASH

下一步

  • 使用 GET /v1/models 查看目前 Key 可用的所有模型。
  • 閱讀 認證,了解不同廠商風格請求標頭的支援情況。
  • 閱讀 Chat Completions,按該格式接入。