OpenAI GPT 模型

在模型系列中選擇

從可能符合任務的最小模型開始，與一個高能力候選用相同任務比較，依可採用結果的品質、延遲、可靠性與總成本選擇。

• 最高難度的推理、軟體開發、研究、瀏覽器及專業軟體完整任務，可選 Astra。
• 複雜專業工作若不值得支付 Astra 的高 token 單價，可選 Sol。
• 品質與成本平衡可選 Terra；測試通過的大量處理可選 Luna。

輸入、輸出、上下文與工具

• GPT-6 Astra 與 GPT-5.6 系列支援文字、圖片輸入及文字輸出。
• 四款模型均列出 1.05M 上下文與最高 128K 輸出。
• Astra 新增非同步工具呼叫、回合中調整指令與設定更新，也支援模型頁面列出的 Responses API 工具。
• Astra 推理支援 low 至 max；GPT-5.6 也支援 none。

此系列適合的工作

這些是值得先試的候選，不代表適合所有用途。請用自己的提示詞、工具與驗收條件測試。

• 儲存庫規模的程式開發與審查。
• 長文件整合，引用由應用驗證。
• 需要結構化呼叫與錯誤恢復的工具型 Agent。
• 用 Terra 或 Luna 進行大量轉換與擷取。

推理、上下文與成本控制

不要只比輸入單價。需計入輸出、快取讀寫、長上下文區間、推理 token、工具呼叫、重試與每輪重送的歷史。

• 先使用 medium 推理，只有測試證明品質提升時才調高。
• 即使上下文很大，也應刪減重複的對話歷史。
• 依完成任務記錄延遲、輸入、輸出、工具呼叫與重試，不要只看單筆請求。

送出最小請求

範例使用表格第一個官方模型 ID。若模型廣場為 API 金鑰顯示不同 ID，請照原樣複製廣場中的值。

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-astra",
    "messages": [{"role": "user", "content": "Explain this request in three bullets."}],
    "stream": false
  }'

限制與相容性說明

• LLMFly AI 完整支援 GPT-6 Astra API。各 GPT 模型請依該路徑文件設定端點與工具。
• 大上下文可能增加延遲與成本，不能取代檢索和內容篩選。
• 模型 ID 放在設定中管理，上線前測試備援模型。

正式環境評估清單

• 測試前先訂驗收標準，再執行 20–50 個代表性任務。
• 量測首 token 時間、總延遲、輸入輸出 token、工具重試與每個成功任務的成本。
• 測試應用實際使用的端點、串流模式、工具格式與結構化輸出。
• 確認 400、401、404、429 與暫時性 5xx 的處理，並限制重試次數。
• 模型 ID 放在設定中管理，遷移正式請求前先驗證備援模型。

模型廣場要確認什麼

模型廣場列出 API 金鑰可用的 ID、計費倍率、可用狀態、支援端點與相容性說明。部署前用小量請求確認。

• GPT-6 Astra 與 GPT-5.6 模型接受文字、圖片輸入並回傳文字。
• Astra 支援 low 至 max 五個推理等級；GPT-5.6 模型也支援 none。
• OpenAI 公布 Astra 的函式呼叫、結構化輸出、網頁與檔案搜尋、電腦操作及其他 Responses API 工具。

從模型研究走到可用 ID

開啟上方模型頁面記下官方 ID，再到模型廣場確認金鑰可用 ID。將 ID 放在設定中，即可檢視與修改而不必重寫應用。