📖

API 接入文档

OpenAI / Anthropic / Responses
📮 使用中遇到问题、需要邀请码或申请扩容配额,请联系 Carizon IT。

5 分钟接入

本网关同时兼容 OpenAI / Anthropic / OpenAI Responses 3 套协议。已有客户端 base_url 改一下、key 改一下即可使用。

1. 注册 + 创建 API Key

访问 注册,登录后到 用户中心 创建 usr- 开头的 key。

2. 选择协议

OpenAI 协议

最常用,gpt / claude / grok / kimi 都能调
base_url=https://llm-api.carizon.work/v1
key=usr-...

Anthropic 协议

Claude SDK / Claude Code 用这个
base_url=https://llm-api.carizon.work
x-api-key: usr-...

OpenAI Responses 协议

推理模型 / thinking 用这个
base_url=https://llm-api.carizon.work/v1
POST /v1/responses

3. 第一个调用

复制下面命令,把 $YOUR_KEY 换成你的 key:

curl https://llm-api.carizon.work/v1/chat/completions \ -H "Authorization: Bearer $YOUR_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"gpt-5.6-sol","messages":[{"role":"user","content":"hi"}]}'
from openai import OpenAI client = OpenAI(api_key="$YOUR_KEY", base_url="https://llm-api.carizon.work/v1") r = client.chat.completions.create( model="gpt-5.6-sol", messages=[{"role":"user","content":"hi"}] ) print(r.choices[0].message.content)
import OpenAI from "openai"; const client = new OpenAI({ apiKey: "$YOUR_KEY", baseURL: "https://llm-api.carizon.work/v1", }); const r = await client.chat.completions.create({ model: "gpt-5.6-sol", messages: [{role:"user",content:"hi"}], }); console.log(r.choices[0].message.content);
💡 想可视化?去 模型广场 看完整定价、按厂商筛选。

错误码与限额

HTTP 状态码

HTTPerror.typeerror.code说明
400invalid_request_error—请求本身有问题:参数或取值不被所调模型支持、消息顺序不合法(如 tool 消息没有紧跟对应的 tool_calls)、超出模型上下文窗口等,message 里是具体原因。按提示修改请求后再发,原样重试不会成功。
401authentication_error
(/v1/embeddings 没带 key 时为 invalid_request_error)
invalid_api_keykey 不存在、已吊销或已过期(过期时 message 会注明)。请求里完全没带 key 时同样是 401,返回的也是标准错误对象;多数端点的 message 会说明 key 该怎么传(Authorization: Bearer,或 Anthropic 风格的 x-api-key)。
403permission_erroraccount_suspended账户被管理员暂停,请联系 Carizon IT。
403invalid_request_error 或 permission_errorip_not_allowed / model_not_allowed这把 key 设了 IP 白名单 / 模型 allowlist,当前来源 IP 或所调模型不在其中(以 error.code 为准)。到 portal → API Keys → 配置 修改。
404invalid_request_error
(Anthropic 协议为 not_found_error)
model_not_found模型不存在、已下架或本网关未提供;请求不会被转发,也不计费。当前可用模型见 模型广场。
404——路径不对,或该端点本网关未提供:响应是空正文的 404(不是 JSON),只能靠状态码判断;只请求到 /v1 本身时会返回一句列出可用端点的 JSON 提示。确认路径是 /v1/chat/completions 等完整路径。
429rate_limit_erroruser_daily_cap今日配额已用完(账号每日配额,或这把 key 的自定义每日额度;额度以 portal 首页为准)。次日 00:00(北京)重置,响应头 Retry-After 是距重置的秒数。
429rate_limit_errorrate_limit_exceeded请求频率超限(如这把 key 设的 RPM / RPD)。按响应头 Retry-After(秒)等待后重试;没有该响应头时退避几秒再试。
429rate_limit_error—所调模型当前不可用(message 会说明),带 Retry-After: 30。稍后重试,或改用其他模型。
5xxapi_error / server_error 等—模型服务异常,message 里是具体说明(个别情况下响应不是 JSON)。可稍后重试;持续出现请带上调用时间与响应体联系 Carizon IT。

错误体形状随协议而定,两种都是标准形状,官方 SDK 可直接识别:

  • OpenAI 协议(/v1/chat/completions、/v1/responses、/v1/embeddings 等):{"error":{"type":"rate_limit_error","code":"user_daily_cap","message":"…"}}
  • Anthropic 协议(/v1/messages):{"type":"error","error":{"type":"rate_limit_error","message":"…"}} —— 外层多一个 "type":"error",error.type 用 Anthropic 的标准取值,code 字段不一定有。

自己解析时建议先看 HTTP 状态码,再读 error.type / error.code(两种形状里错误详情都在 error 对象下,不要依赖外层 "type":"error" 一定存在);429 优先按 Retry-After 响应头等待。

每日限额

每个用户独立的每日总配额(跨所有 key 累计),默认 $50 USD / 天,个别账号另有配置 —— 以 portal 首页显示的为准:

  • 实际成本按 token:输入 × 输入价 + 输出 × 输出价(见 模型广场)
  • 每日 00:00(北京)自动重置
  • 用满后返回 429 user_daily_cap — 不会无声超支
  • 到 /portal 查实时用量 + 按模型 / 按 key 分布
需要更高额度?联系管理员调整 cap(admin 可在用户管理里改)。
POST

Chat Completions

/v1/chat/completions

OpenAI 标准聊天接口。支持 gpt-* / claude-* 模型。

请求参数

param类型说明
model必填string模型名(参考 /models 页面)
messages必填array[{role, content}] 数组
streambool是否 SSE 流式返回,默认 false
temperaturenumber0–2,默认 1
max_tokensnumber响应最大 token 数
toolsarrayfunction calling 定义
tool_choicestring|object"auto" / "none" / 指定 tool
response_formatobjectJSON mode: {"type":"json_object"}

示例

curl https://llm-api.carizon.work/v1/chat/completions \ -X POST \ -H "Authorization: Bearer $YOUR_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "claude-sonnet-4-6", "messages": [ {"role":"system","content":"You are helpful."}, {"role":"user","content":"Why is the sky blue?"} ], "temperature": 0.7, "max_tokens": 1024, "stream": false }'
from openai import OpenAI client = OpenAI(api_key="$YOUR_KEY", base_url="https://llm-api.carizon.work/v1") r = client.chat.completions.create( model="claude-sonnet-4-6", messages=[ {"role":"system","content":"You are helpful."}, {"role":"user","content":"Why is the sky blue?"}, ], temperature=0.7, max_tokens=1024, ) print(r.choices[0].message.content) print(r.usage)
import OpenAI from "openai"; const client = new OpenAI({ apiKey: "$YOUR_KEY", baseURL: "https://llm-api.carizon.work/v1", }); const r = await client.chat.completions.create({ model: "claude-sonnet-4-6", messages: [ {role:"system", content:"You are helpful."}, {role:"user", content:"Why is the sky blue?"}, ], temperature: 0.7, max_tokens: 1024, }); console.log(r.choices[0].message.content);
POST

Responses

/v1/responses

OpenAI 新一代 API,专为 gpt-5.6-sol、gpt-5.6-terra 等推理模型设计,原生支持 thinking budget 与 tool calling。

请求参数

param类型说明
model必填stringgpt-5.6-sol / gpt-5.6-terra 等
input必填string|array输入文本或多模态数组
reasoningobject{"effort":"low|medium|high"}
streamboolSSE 流式

示例

curl https://llm-api.carizon.work/v1/responses \ -X POST \ -H "Authorization: Bearer $YOUR_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "gpt-5.6-sol", "input": "Solve: 2x + 3 = 11", "reasoning": {"effort":"medium"} }'
from openai import OpenAI client = OpenAI(api_key="$YOUR_KEY", base_url="https://llm-api.carizon.work/v1") r = client.responses.create( model="gpt-5.6-sol", input="Solve: 2x + 3 = 11", reasoning={"effort":"medium"}, ) print(r.output_text)
POST

Embeddings

/v1/embeddings

文本向量化,对调用方完全 OpenAI-API 兼容。

支持的模型

model维度价格 / 1M tokens
text-embedding-3-large3072 (可降到 256/512/1024)$0.13
text-embedding-3-small1536 (可降)$0.02
embed-v-4-0 (已下线)1536 (默认)—

请求参数

param类型说明
model必填string见上表
input必填string|array要向量化的文本或文本数组
dimensionsnumber向量维度(仅 text-embedding-3 支持)

示例

curl https://llm-api.carizon.work/v1/embeddings \ -X POST \ -H "Authorization: Bearer $YOUR_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "text-embedding-3-large", "input": "The quick brown fox" }'
from openai import OpenAI client = OpenAI(api_key="$YOUR_KEY", base_url="https://llm-api.carizon.work/v1") r = client.embeddings.create( model="text-embedding-3-large", input=["The quick brown fox", "Hello world"], ) for e in r.data: print(len(e.embedding), e.embedding[:5])
POST

Audio Chat

⚠️ 此能力当前不可用。gpt-audio-1.5 已下线:照下面示例调用会直接返回 HTTP 404(invalid_request_error / model_not_found,提示「模型 gpt-audio-1.5 不存在或本网关未提供」),请求不会被转发,也不产生费用。本节仅作历史保留,当前可用模型请见模型广场。
/v1/chat/completions (model = gpt-audio-1.5)

带 音频输入/输出 的对话接口。基于 OpenAI 的 audio-capable chat-completions 协议(modalities 字段决定输入/输出走音频还是文本)。模型纯音频,纯文本请求会被 400 拒收。

请求参数(与 chat/completions 一致,新增)

param类型说明
model必填stringgpt-audio-1.5
modalities必填array["text", "audio"] 或 ["audio"] 任一
audioobject{"voice":"alloy","format":"wav"}
messages必填arraycontent 里包 {"type":"input_audio","input_audio":{"data":"<base64>","format":"wav"}}

示例

curl https://llm-api.carizon.work/v1/chat/completions \ -X POST -H "Authorization: Bearer $YOUR_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "gpt-audio-1.5", "modalities": ["text", "audio"], "audio": {"voice": "alloy", "format": "wav"}, "messages": [ {"role":"user","content":[{"type":"input_audio","input_audio":{"data":"","format":"wav"}}]} ] }'
import base64, openai client = openai.OpenAI(api_key="$YOUR_KEY", base_url="https://llm-api.carizon.work/v1") audio_b64 = base64.b64encode(open("hello.wav","rb").read()).decode() r = client.chat.completions.create( model="gpt-audio-1.5", modalities=["text", "audio"], audio={"voice":"alloy","format":"wav"}, messages=[{"role":"user","content":[ {"type":"input_audio","input_audio":{"data":audio_b64,"format":"wav"}} ]}], ) print(r.choices[0].message.audio.transcript) open("out.wav","wb").write(base64.b64decode(r.choices[0].message.audio.data))
⚠️ 此能力已于 2026-06-04 下线(Azure Speech 已移除)。照下面示例调用会返回 HTTP 410:Speech is not supported on this endpoint. 本节仅作历史保留。
POST

Speech 转录 / 翻译

/v1/azure-speech/speechtotext/transcriptions:transcribe?api-version=2024-11-15

语音转文字 + 语音翻译,走 Azure Speech Fast Transcription(不是 OpenAI Whisper)。我们透传 Azure 的原生 multipart 接口(不做 OpenAI 协议翻译),因此请按 Azure SDK 示例发请求。

可用模型

  • gpt-realtime-whisper — 语音转文字(保留原语言)
  • gpt-realtime-translate — 语音翻译成英文

multipart body

part说明
audio音频文件(wav/mp3/m4a 等,最大 100MB)
definitionJSON:{"locales":["en-US"],"model":"gpt-realtime-whisper"}

示例(curl)

curl https://llm-api.carizon.work/v1/azure-speech/speechtotext/transcriptions:transcribe?api-version=2024-11-15 \ -X POST -H "Authorization: Bearer $YOUR_KEY" \ -F "audio=@hello.wav" \ -F 'definition={"locales":["en-US"],"model":"gpt-realtime-whisper"}' # response: {"durationMilliseconds":..., "combinedPhrases":[{"text":"..."}], "phrases":[...]}
⚠️ 此能力已下线。WebSocket 握手会被 HTTP 410 打回:Realtime audio is not supported on this endpoint. 本节仅作历史保留。
WS

Realtime(实时语音对话)

wss://llm-api.carizon.work/v1/realtime?model=gpt-realtime-2

WebSocket 实时语音对话接口(VAD、流式音频 in/out、function calling)。鉴权用 Authorization: Bearer 或查询参数 ?api-key= / ?key=(浏览器场景)。

连接参数

param说明
model当前唯一支持 gpt-realtime-2
voice可选;alloy / echo / shimmer 等

事件协议

完全遵循 OpenAI Realtime API 的 JSON 事件结构:客户端可发 session.update / input_audio_buffer.append / response.create 等;服务端推送 session.created / response.audio.delta / response.done 等。

示例(Node + ws)

// npm i ws import { WebSocket } from "ws"; const ws = new WebSocket( "wss://llm-api.carizon.work/v1/realtime?model=gpt-realtime-2", { headers: { Authorization: `Bearer ${process.env.YOUR_KEY}` } } ); ws.on("open", () => { // 配置 session ws.send(JSON.stringify({ type: "session.update", session: { instructions: "You are a helpful Mandarin tutor." } })); }); ws.on("message", (d) => console.log(JSON.parse(d.toString())));
# pip install websockets import asyncio, json, os, websockets async def main(): uri = "wss://llm-api.carizon.work/v1/realtime?model=gpt-realtime-2" headers = {"Authorization": f"Bearer {os.environ['YOUR_KEY']}"} async with websockets.connect(uri, additional_headers=headers) as ws: await ws.send(json.dumps({"type":"session.update", "session":{"instructions":"Be concise."}})) async for msg in ws: print(json.loads(msg)) asyncio.run(main())

计费

下线前按音频 token 计费(输入 $40 / 输出 $80 每 1M token,约 1 美元/分钟密集对话)。

POST

Images

/v1/images/generations

图像生成。支持 gpt-image-2.6(及 gpt-image-2.6-flare / gpt-image-2.6-sunburst)、gpt-image-2.5(及 gpt-image-2.5-flare / gpt-image-2.5-sunburst)、gpt-image-2、grok-imagine-image-2.0 等。gpt-image 系列返回 b64_json(base64 编码的 PNG),不返回 url。

图像编辑:POST /v1/images/edits,multipart 上传原图(字段 image)+ prompt + model;gpt-image-2、gpt-image-2.5 与 gpt-image-2.6 全系均已实测可用。

请求参数

param类型说明
model必填stringgpt-image-2.6 / gpt-image-2.5 / gpt-image-2 / grok-imagine-image-2.0
prompt必填string图像描述
sizestring1024x1024 / 1536x1024。实际像素以返回为准:实测 gpt-image-2.5 请求 1536x1024 严格返回 1536×1024;1792x1024(DALL·E 3 尺寸)不报错,但返回的是 1350×1165
qualitystringgpt-image 系列:low / medium / high(实测同等像素下 low 输出 token 约少 1/3,更便宜)。standard / hd 为 DALL·E 3 取值
nnumber生成图片张数 (默认 1)

示例

curl https://llm-api.carizon.work/v1/images/generations \ -X POST \ -H "Authorization: Bearer $YOUR_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "gpt-image-2.5", "prompt": "A serene Japanese garden in spring", "size": "1024x1024", "n": 1 }'
from openai import OpenAI client = OpenAI(api_key="$YOUR_KEY", base_url="https://llm-api.carizon.work/v1") r = client.images.generate( model="gpt-image-2.5", prompt="A serene Japanese garden in spring", size="1024x1024", ) # gpt-image 系列返回 base64 PNG(不返回 url) import base64 open("out.png", "wb").write(base64.b64decode(r.data[0].b64_json))
GET

列出模型

/v1/models

返回当前可用的所有模型列表(OpenAI 标准格式)。

示例

curl https://llm-api.carizon.work/v1/models \ -H "Authorization: Bearer $YOUR_KEY"
from openai import OpenAI client = OpenAI(api_key="$YOUR_KEY", base_url="https://llm-api.carizon.work/v1") for m in client.models.list().data: print(m.id)
POST

Messages

/v1/messages

Anthropic 原生协议。Claude SDK / Claude Code 用这个。支持 thinking、tools、web_search、code_execution、files 等高级特性。

请求参数

param类型说明
model必填stringclaude-sonnet-4-6 / claude-fable-5 等
messages必填array对话消息数组
max_tokens必填number必填,最大输出 token 数
systemstring系统提示词
thinkingobject{"type":"adaptive","budget_tokens":N}
toolsarray含原生 web_search_20250305 / code_execution_20250825
streamboolSSE 流式

认证 header

用 x-api-key: usr-... 或 Authorization: Bearer usr-... 都可。原生 Anthropic SDK 自动用 x-api-key。

示例

curl https://llm-api.carizon.work/v1/messages \ -X POST \ -H "x-api-key: $YOUR_KEY" \ -H "anthropic-version: 2023-06-01" \ -H "Content-Type: application/json" \ -d '{ "model": "claude-sonnet-4-6", "max_tokens": 1024, "messages": [{"role":"user","content":"Hello!"}] }'
import anthropic client = anthropic.Anthropic( api_key="$YOUR_KEY", base_url="https://llm-api.carizon.work", ) msg = client.messages.create( model="claude-sonnet-4-6", max_tokens=1024, messages=[{"role":"user","content":"Hello!"}], ) print(msg.content[0].text)
⚠️ Gemini 协议面当前未对外开放。/v1beta 在公网入口没有配置转发,照下面示例调用会拿到一页 404 Not Found 的 HTML(不是 JSON),Google AI SDK 会在解析处直接抛异常。请改用 OpenAI 协议 或 Anthropic 协议。
POST

generateContent

/v1beta/models/{model}:generateContent

Gemini 原生协议。Google AI SDK 用这个。{model} 替换为模型名(如 gemini-2.5-pro)。

请求参数

param类型说明
contents必填array[{role,parts:[{text}]}]
generationConfigobjecttemperature / topP / maxOutputTokens 等
systemInstructionobject系统提示
toolsarrayfunction declarations

认证

Gemini 用 query string:?key=usr-xxxxxxxx

示例

curl "https://llm-api.carizon.work/v1beta/models/gemini-2.5-pro:generateContent?key=$YOUR_KEY" \ -X POST \ -H "Content-Type: application/json" \ -d '{ "contents": [{ "role": "user", "parts": [{"text": "Hello!"}] }] }'
import google.generativeai as genai genai.configure( api_key="$YOUR_KEY", transport="rest", client_options={"api_endpoint": "https://llm-api.carizon.work"}, ) model = genai.GenerativeModel("gemini-2.5-pro") r = model.generate_content("Hello!") print(r.text)

SSE 流式响应

所有协议都支持 streaming:

  • OpenAI:请求体加 "stream": true
  • Anthropic:同 "stream": true

响应是 text/event-stream,每条事件 data: {...},结束 data: [DONE]。

OpenAI 流式 chunk 结构

data: {"choices":[{"delta":{"content":"Hello"},"index":0}]} data: {"choices":[{"delta":{"content":", "},"index":0}]} data: {"choices":[{"delta":{"content":"world"},"index":0}]} data: {"choices":[{"delta":{},"finish_reason":"stop","index":0}]} data: [DONE]
r = client.chat.completions.create( model="claude-sonnet-4-6", messages=[{"role":"user","content":"hi"}], stream=True, ) for chunk in r: delta = chunk.choices[0].delta.content if delta: print(delta, end="", flush=True)

Tool / Function Calling

支持 OpenAI 标准 tools 参数。Claude、GPT 用同一格式:

curl https://llm-api.carizon.work/v1/chat/completions \ -X POST \ -H "Authorization: Bearer $YOUR_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "claude-sonnet-4-6", "messages": [{"role":"user","content":"北京天气怎么样"}], "tools": [{ "type": "function", "function": { "name": "get_weather", "description": "Get current weather for a city", "parameters": { "type": "object", "properties": { "city": {"type":"string","description":"City name"} }, "required": ["city"] } } }] }'
r = client.chat.completions.create( model="claude-sonnet-4-6", messages=[{"role":"user","content":"北京天气怎么样"}], tools=[{ "type":"function", "function":{ "name":"get_weather", "parameters":{ "type":"object", "properties":{"city":{"type":"string"}}, "required":["city"], }, }, }], ) print(r.choices[0].message.tool_calls)

Anthropic 内置工具(web_search / code_execution / computer_use)通过原生 /v1/messages 协议调用,type 使用官方版本号(如 web_search_20250305)。详见 Anthropic 官方文档。

图片输入 (Vision)

所有支持 vision 的模型都接受 OpenAI 标准的 image_url content:

curl https://llm-api.carizon.work/v1/chat/completions \ -X POST \ -H "Authorization: Bearer $YOUR_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "gpt-5.6-sol", "messages": [{ "role": "user", "content": [ {"type":"text","text":"这张图是什么?"}, {"type":"image_url","image_url":{"url":"https://example.com/cat.jpg"}} ] }] }'
r = client.chat.completions.create( model="gpt-5.6-sol", messages=[{ "role":"user", "content":[ {"type":"text","text":"这张图是什么?"}, {"type":"image_url","image_url":{ "url":"https://example.com/cat.jpg"}}, ], }], ) print(r.choices[0].message.content)

支持 Claude、GPT-5.x。data: URL 和 https://... URL 都支持。

推理模式 (thinking)

Claude / GPT 等支持显式推理:

Anthropic — adaptive thinking

curl https://llm-api.carizon.work/v1/messages \ -X POST \ -H "x-api-key: $YOUR_KEY" \ -H "anthropic-version: 2023-06-01" \ -d '{ "model": "claude-opus-4-7", "max_tokens": 4096, "thinking": {"type":"adaptive","budget_tokens":8000}, "messages": [{"role":"user","content":"Prove sqrt(2) is irrational"}] }'

OpenAI Responses — effort

curl https://llm-api.carizon.work/v1/responses \ -X POST \ -H "Authorization: Bearer $YOUR_KEY" \ -d '{ "model": "gpt-5.6-sol", "input": "Prove sqrt(2) is irrational", "reasoning": {"effort":"high"} }'

常见问题

Q: key 泄露了怎么办?

到 portal → API Keys → 找到那个 key → 吊销。立刻失效,可再创建新的。

Q: 怎么查实时用量?

登录 portal,首屏显示今日用量 / cap。明细按模型 / 时间分布在 用量 标签。

Q: 数据安全 — prompt 会被记录吗?

会被短期记录。为排障与安全审计,请求与响应正文会在网关本地保留约 6 小时后清除,并同步到访问受控的内部日志平台;计费只使用 token 数、模型与时间。

Q: 不在列表里的模型可以加吗?

联系管理员开通即可(本网关已接入几乎所有主流厂商模型)。

Q: 支持 batch API 吗?

暂不支持 OpenAI batch endpoint。如有需要联系管理员。

Q: 支持 function calling 吗?

支持。OpenAI 标准 tools 字段在所有模型都生效,详见 Tool / Function Calling。

Q: 国内能直接调吗?

本网关部署在 Azure Japan East,国内直连或加速都可。如果有网络问题用国内 VPS 中转一次。

Q: 联系方式

飞书 → 找运维 / 管理员。问题请提供 (1) 你的 email (2) 调用时间 (3) HTTP code + 响应体。