为什么需要独立测试?
很多第三方 AI 网关宣称兼容 OpenAI API,但“兼容”可能只指能接受类似请求格式,并不代表支持所有功能、全部模型或相同的上下文窗口。
第一步:获取模型列表
以合法获取的服务地址和密钥为例:
curl -sS https://YOUR_API_BASE/v1/models \
-H "Authorization: Bearer YOUR_API_KEY"
记录响应中的模型标识 id。如果该服务不提供 /models,以其官方文档公布的精确模型 ID 为准。
第二步:最小聊天请求
curl -sS https://YOUR_API_BASE/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "YOUR_MODEL_ID",
"messages": [{"role":"user","content":"请只回复 OK"}],
"max_tokens": 16
}'
依次记录 HTTP 状态、错误信息、响应时间、模型 ID 与 token 用量。对于只支持 /responses 的网关,应改用其文档指定的接口,不能凭接口名猜测兼容性。
第三步:验证上下文窗口
上下文长度不能只看配置面板的数字。测试时逐步增加输入 token 数量,观察服务端拒绝、自动截断、模型遗忘、超时或上游错误。统计时必须把系统消息、工具定义、输入文本与预留输出 token 一并考虑。 可采用由小到大的分层测试,例如 8K、32K、64K、128K,再逼近宣称上限。不要直接用最大输入持续轰炸免费服务,避免耗尽配额或触发风控。
第四步:测试额外能力
逐一验证流式输出、工具调用、JSON 格式输出、推理参数、并发限制和错误重试。这些功能需要独立确认;能完成聊天不代表所有参数都生效。
安全底线
- 使用专门的测试密钥,避免暴露生产凭据。
- 不向未知第三方接口发送私人文档、客户信息或保密源码。
- 不将完整密钥写入文章、网页前端或公开代码仓库。
- 记录测试日期与服务条款,免费额度可能随时变化。
建议记录格式
| 字段 | 内容 |
| 服务与官方文档 | 可追溯 URL |
| API Base URL | 精确地址 |
| 模型 ID | 原样记录 |
| 接口协议 | Chat Completions / Responses / 其他 |
| 上下文上限 | 测试结果与限制条件 |
| 计费与配额 | 免费额度、时间窗、速率限制 |
| 最近验证时间 | 日期和结果 |