UnderSky 文档

选择模型

根据路由方式、回答质量、延迟、上下文需求和 Token 价格选择 UnderSky 模型,并用小请求验证选择。

模型选择属于产品决策。先使用满足质量目标的最小模型,只有评测发现差距时再升级。

从自动路由开始

需要 UnderSky 自动选择可用路由时使用 auto。它适合原型和备用路径。

{"model":"auto","messages":[{"role":"user","content":"Summarize this release note."}]}

选择模型家族

模型目录展示当前模型 ID、价格和支持的端点。

  • OpenAI 模型适合通用对话和 Responses 兼容应用。
  • Claude 模型适合长文本推理或 Anthropic 消息语义。
  • DeepSeek 模型为许多文本工作负载提供更低的 Token 价格。
  • 需要机器可读列表时使用模型 API 参考。

比较四个约束

使用同一组提示词评估每个候选模型:

  1. 质量。 检查事实性、指令遵循、结构化输出和工具调用正确性。
  2. 延迟。 在正常并发下测量首 Token 和完整响应时间。
  3. 上下文。 让提示词位于模型上下文范围内,并为输出预留空间。
  4. 成本。 用模型页价格乘以输入和输出 Token,并把重试计入预算。

将最终模型 ID 写进配置,避免目录更新时生产工作流悄然改变。

匹配端点语义

已有 OpenAI Chat 客户端时使用 /v1/chat/completions。使用 Responses 格式的应用选择 /v1/responses。需要 Anthropic 原生请求格式时,Claude 和 DeepSeek V4 可以使用 /v1/messages。

切换端点前阅读对应的API 参考。模型详情页会列出它支持的全部端点。

验证候选模型

发送小请求,记录返回的模型和用量,再与评测结果比较。提高并发前查看定价和服务状态。

完整接入请先阅读快速开始,再根据速率限制恢复指南处理生产流量。

目录