对话端点(四协议)
按客户端使用的协议选择对话端点。先用同一把 Key 查当前可用的模型 ID,再替换请求示例里的 MODEL_ID。对话请求可能产生费用。
一、四个端点一览
| 协议 | 端点 | 说明 |
|---|---|---|
| OpenAI Chat Completions | POST /v1/chat/completions | 可直接用 OpenAI 官方 SDK,只改 base_url |
| Anthropic Messages | POST /v1/messages | 需带 anthropic-version: 2023-06-01 请求头 |
| Gemini generateContent | POST /v1/models/{model}:generateContent | 模型 ID 拼在路径里,见下方「Gemini 路径写法」 |
| OpenAI Responses | POST /v1/responses | 入站按 Responses 格式解析,平台会路由到任意一种上游协议再把结果翻译回 Responses 形状返回给你 |
请求和响应使用对应协议的格式;平台会按实际路由转换已支持的字段,不能据此认为各家协议的所有字段都能跨协议等价传递。官方字段定义以对应官方文档为准,平台支持范围及改写见本页和各协议适配层字段表。
Anthropic 缓存参数
Anthropic Messages 请求中的 cache_control 需要由 Anthropic Messages 上游承载。平台保留顶层自动缓存控制,以及已支持的 system 文本块、消息文本/图片/文档、tool_use/tool_result 和工具定义上的合法显式标记与顺序。type 为 ephemeral;ttl 可省略,或为 5m、1h。省略时遵循上游默认值。
平台不自行移动或新增缓存断点;混合 TTL、断点数量、自动缓存与最后显式断点的组合仍由原生上游验证。不能直接标记 thinking/redacted_thinking 或 tool_result 内的子内容块。原生已知的文本 citations、文档 title/context/citations 及工具 strict/defer_loading 等元数据不会仅因请求缓存而被拒绝。
本批只修复实际路由到 Anthropic 上游时已支持形状的缓存承载。跨到其他协议、或携带当前未支持的内容块/来源形状时,仍沿用原有转换并记录兼容性限制,不保证缓存标记或前缀保留;工具和思考签名的既有拒绝保护保持不变。需要缓存语义时应选用已明确支持该能力的 Anthropic 上游。跨协议缓存的严格拒绝属于单独的行为变更,本批不启用。未请求缓存时继续使用原有转换。
传递缓存参数不保证模型或中转商支持该能力,也不保证命中或特定费用;应以实际返回的 usage 与适用价格为准。本次参数兼容修复不改变缓存计量或现有价格。参见 Anthropic 官方缓存说明,关联修复 #5519。
四协议请求均区分显式 temperature: 0 与省略温度参数。明确传入的零值会转给目标上游;省略(或可选值为 null)时不由平台补零,继续由上游采用默认值。Gemini 的对应位置为 generationConfig.temperature,省略或空的 generationConfig 不表示温度为零。具体模型是否接受温度参数仍取决于上游能力,平台不会因参数被拒而静默删除它并重试。关联修复 #5519。
二、鉴权(对四个端点都适用)
Authorization: Bearer $TP_API_KEY 首选
x-api-key: $TP_API_KEY Authorization 为空时的备选这两种鉴权方式对上面四个端点都生效,不是只有 Anthropic 协议才认 x-api-key。
不支持 Gemini 官方那种 ?key= 查询参数鉴权方式——本平台不认这种写法。如果你用 Gemini 官方 SDK 的默认鉴权方式接入,会收到 401 missing_auth;请改成上面两种请求头之一。
三、Gemini 路径写法
网关按可能含 / 的模型 ID(如 google/gemini-3.1-pro-preview)注册路由,完整路径形如:
POST /v1/models/ENCODED_MODEL_ID:generateContent路径形状不对时返回 400(不是 404)。
Gemini 流式响应通过 ?alt=sse 查询参数请求——这是数据面唯一会读取的查询参数。
四、示例
OpenAI Chat(cURL):
curl https://intertoken.ai/v1/chat/completions \
-H "Authorization: Bearer $TP_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"messages": [{"role": "user", "content": "Hello!"}]
}'Anthropic Messages(cURL):
curl https://intertoken.ai/v1/messages \
-H "x-api-key: $TP_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"max_tokens": 1024,
"messages": [{"role": "user", "content": "Hello!"}]
}'Gemini generateContent:将 MODEL_ID 中的斜杠编码为 %2F 后填入 ENCODED_MODEL_ID。
curl "https://intertoken.ai/v1/models/ENCODED_MODEL_ID:generateContent" \
-H "Authorization: Bearer $TP_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"contents": [{"role": "user", "parts": [{"text": "Hello!"}]}]
}'OpenAI Responses(cURL):
curl https://intertoken.ai/v1/responses \
-H "Authorization: Bearer $TP_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"input": "Hello!"
}'Anthropic 协议的地址不带尾部
/v1(Anthropic 官方 SDK 会自己拼接/v1/messages),其余三个协议的地址带/v1。用官方 SDK 接入时只需设置base_url/baseURL,SDK 会自动处理其余路径拼接。
五、平台适配层做了什么(差异列)
调用任意协议时,平台会先把请求解析成内部统一结构,再按你实际路由到的上游协议重新构造请求——这意味着即使入站协议与上游协议相同,请求也会经过一次解析与重建,而不是逐字节透传。这个过程中,部分字段会被保留、部分会被改写、部分会被静默丢弃。
| 协议 | 平台适配层的透传/改写/丢弃细节 |
|---|---|
| Anthropic Messages | 已逐字段核实,见 Anthropic Messages 适配层字段表 |
| OpenAI Chat Completions | 见下方常用参数的协议映射 |
| OpenAI Responses | 见下方常用参数的协议映射 |
| Gemini generateContent | 见下方系统文本转发说明 |
Anthropic 上游转换为 Chat 流时,每个内容、工具、结束及请求的 usage 尾帧共用同一组 id、model、created。id 和 model 优先取上游 message_start.message 的真实非空值;上游缺少 model 时使用本次实际上游请求的路由模型名称,缺少 id 时使用平台为该次回复生成的唯一 ID。created 是平台首次输出该流时生成的 Unix 秒,三者在首次输出后保持不变。平台生成的 ID 和路由模型回退值不表示供应商返回过这些字段。
若上游和本次路由均无法提供有效模型名称,Chat 流以既有 server_error / stream_error 及一个 [DONE] 结束,不发送正常结束或成功 usage 尾帧、不换渠道重试;已观察的真实上游用量仍按原记账路径保留。
Chat 停止序列
stop 可传字符串或字符串数组。单个字符串按一个停止序列处理。可映射到 Chat 的 stop、Anthropic 的 stop_sequences 或 Gemini 的 stopSequences,Responses 上游没有对应字段。
六、错误
四个端点共用同一套错误码词汇表 → 错误码。
七、Key 是否可调用某个模型
调用前可以先查询这把 Key 现在能不能调用目标模型,避免调用失败 → Key 可调用性查询。
常用参数的协议映射
| 参数 | 平台承载范围 |
|---|---|
parallel_tool_calls | Chat 和 Responses 上下游的普通函数工具可传布尔值。false 限制为最多一次,true 允许并行。实际是否调用由 tool_choice 和上游决定。托管工具、custom、Anthropic 和 Gemini 不适用这项映射。 |
store | Chat 和 Responses 上游可接收显式布尔值。省略或 null 时由上游使用默认策略。该参数不提供零保留、无日志或跨账号续接保证。 |
Chat response_format / Responses text.format | 已知的 text、json_object、json_schema 格式按对应结构转换,保留 schema、名称、可选描述和显式 strict。请按所选模型的结构化输出能力验证结果。 |
| 系统文本转发到 Gemini | Chat、Messages 和 Responses 入站的系统文本可进入 Gemini 的 systemInstruction.parts。组合媒体、推理签名及其它原生字段时,按各协议的适配范围使用。 |
Chat thinking | 在适用的 Chat 上游可携带 thinking 对象。供应商和模型决定是否及如何使用这个字段,跨协议时没有通用等价映射。 |
模型的思考开关因路由而异。若需控制某个模型的推理输出,按模型说明核对支持的参数和取值。