首页/文章/免费API
免费API / FIELD NOTES

如何正确测试 OpenAI 兼容 API:模型、上下文与稳定性

一套不依赖营销宣传的 API 验证流程,包含模型发现、基础请求、上下文限制与安全测试建议。

为什么需要独立测试?

很多第三方 AI 网关宣称兼容 OpenAI API,但“兼容”可能只指能接受类似请求格式,并不代表支持所有功能、全部模型或相同的上下文窗口。

第一步:获取模型列表

以合法获取的服务地址和密钥为例:

curl -sS https://YOUR_API_BASE/v1/models \
  -H "Authorization: Bearer YOUR_API_KEY"

记录响应中的模型标识 id。如果该服务不提供 /models,以其官方文档公布的精确模型 ID 为准。

第二步:最小聊天请求

curl -sS https://YOUR_API_BASE/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "YOUR_MODEL_ID",
    "messages": [{"role":"user","content":"请只回复 OK"}],
    "max_tokens": 16
  }'

依次记录 HTTP 状态、错误信息、响应时间、模型 ID 与 token 用量。对于只支持 /responses 的网关,应改用其文档指定的接口,不能凭接口名猜测兼容性。

第三步:验证上下文窗口

上下文长度不能只看配置面板的数字。测试时逐步增加输入 token 数量,观察服务端拒绝、自动截断、模型遗忘、超时或上游错误。统计时必须把系统消息、工具定义、输入文本与预留输出 token 一并考虑。 可采用由小到大的分层测试,例如 8K、32K、64K、128K,再逼近宣称上限。不要直接用最大输入持续轰炸免费服务,避免耗尽配额或触发风控。

第四步:测试额外能力

逐一验证流式输出、工具调用、JSON 格式输出、推理参数、并发限制和错误重试。这些功能需要独立确认;能完成聊天不代表所有参数都生效。

安全底线

  • 使用专门的测试密钥,避免暴露生产凭据。
  • 不向未知第三方接口发送私人文档、客户信息或保密源码。
  • 不将完整密钥写入文章、网页前端或公开代码仓库。
  • 记录测试日期与服务条款,免费额度可能随时变化。

建议记录格式

字段 内容
服务与官方文档 可追溯 URL
API Base URL 精确地址
模型 ID 原样记录
接口协议 Chat Completions / Responses / 其他
上下文上限 测试结果与限制条件
计费与配额 免费额度、时间窗、速率限制
最近验证时间 日期和结果
真正可靠的 API 清单,应该能够复现调用结果,而不只是列出名字。