OpenAI GPT 模型

如何选择系列内的型号

先选择最有可能满足任务的最小型号，再用同一批任务与一个更高能力候选比较，最后根据通过结果质量、延迟、可靠性和总成本决定。

• 最难的端到端推理、软件工程、研究、浏览器和专业软件任务选择 Astra。
• 复杂专业任务若不需要承担 Astra 的更高 Token 单价，可选择 Sol。
• 需要平衡能力与成本时选择 Terra；经过真实任务验证的大批量请求选择 Luna。

输入、输出、上下文与工具

• GPT-6 Astra 与 GPT-5.6 系列支持文本和图片输入，并输出文本。
• 四款模型均列出 1.05M 上下文和最高 128K 输出。
• Astra 新增异步工具调用、中途指令调整与配置更新，并支持其官方型号页列出的 Responses API 工具。
• Astra 使用 low 至 max 推理档；GPT-5.6 还允许 none。

适合哪些工作负载

这些是优先测试方向，不是放之四海而皆准的结论。请使用自己的提示词、工具和验收条件。

• 仓库级编码、重构与代码审查。
• 长文档分析与总结，引用需由应用侧校验。
• 需要结构化调用与错误恢复的工具型 Agent。
• 使用 Terra 或 Luna 承担大批量改写、分类和抽取。

推理、上下文与成本控制

不要只比较输入单价。还应计入输出、缓存读写、长上下文档位、推理 Token、工具调用、重试，以及每轮重复发送的历史内容。

• 先用 medium 推理，仅当测试集显示质量提升时再提高强度。
• 即使上下文很大，也要裁剪重复的对话历史。
• 按完整任务记录延迟、输入、输出、工具调用和重试，不要只看单次请求。

发送一个最小请求

示例使用表格中的第一个厂商模型 ID。如果模型广场显示的 ID 不同，请改用当前 API Key 可用的模型 ID。

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-astra",
    "messages": [{"role": "user", "content": "Explain this request in three bullets."}],
    "stream": false
  }'

限制与兼容性说明

• LLMFly AI 已完整支持 GPT-6 Astra API 调用。其他 GPT 型号也应按对应路由文档配置 Endpoint 与工具。
• 大上下文会增加延迟和成本，不能替代检索与上下文筛选。
• 将模型 ID 放在配置中，并在上线前测试备用路由。

生产上线评估清单

• 准备 20–50 条有代表性的任务，并在测试前写明通过条件。
• 记录首 Token 延迟、总延迟、输入输出 Token、工具重试和完整任务成本。
• 验证应用实际使用的 Endpoint、流式模式、工具 Schema 与结构化输出。
• 验证 400、401、404、429 和临时 5xx 的处理方式，并限制重试次数。
• 将模型 ID 放进配置，并在正式切换前验证备用模型。

哪些信息必须在 LLMFly AI 中确认

模型广场会显示当前 API Key 可用的模型 ID、计费倍率、可用状态、支持的接口和兼容说明。部署前请确认这些信息，并发送一个小请求验证。

• GPT-6 Astra 与 GPT-5.6 系列都接受文本和图片输入，并输出文本。
• Astra 支持从 low 到 max 的 5 档推理；GPT-5.6 系列还支持 none。
• OpenAI 为 Astra 公布了函数调用、结构化输出、网页与文件搜索、Computer Use 等 Responses API 工具。

从型号研究进入实际调用

先打开上方具体型号页查看厂商模型 ID，再到模型广场确认当前 API Key 可用的模型 ID。把 ID 保存在配置中，方便审查、测试和回滚，而不必重写应用。