xAI Grok 模型

在模型系列中選擇

從可能符合任務的最小模型開始，與一個高能力候選用相同任務比較，依可採用結果的品質、延遲、可靠性與總成本選擇。

• 需要大上下文的程式開發、知識工作與工具型 Agent，可選 Grok 4.6。
• 互動工作使用 low 或 medium；只有品質提升足以抵銷延遲與輸出成本時，才評估 high 或 xhigh。
• 簡單分類或擷取若測試未顯示旗艦優勢，優先用較小模型路徑。

輸入、輸出、上下文與工具

• 透過 Responses 與 Chat Completions API 接受文字、圖片輸入並輸出文字。
• 500K 上下文可處理大型程式庫、長文件與長時間 Agent 歷史。
• 公布工具包含函式呼叫、網頁搜尋、X 搜尋與程式執行。
• 推理支援 low、medium、high、xhigh，文件預設值為 high。

此系列適合的工作

這些是值得先試的候選，不代表適合所有用途。請用自己的提示詞、工具與驗收條件測試。

• 多檔案程式開發、除錯與儲存庫分析。
• 結合網頁、X 搜尋與結構化工具的研究 Agent。
• 跨大量來源的長篇知識工作。
• 需要程式執行與函式呼叫的多步驟流程。

推理、上下文與成本控制

不要只比輸入單價。需計入輸出、快取讀寫、長上下文區間、推理 token、工具呼叫、重試與每輪重送的歷史。

• 長 Agent 循環可用 prompt_cache_key 或 Chat Completions 對話標頭，提高快取命中連貫性。
• 達到 500K 上限前壓縮或摘要上下文，避免反覆傳送持續增長的全文。
• 最新網頁或 X 資訊需使用對應搜尋工具，基礎模型本身不是即時資訊源。

送出最小請求

範例使用表格第一個官方模型 ID。若模型廣場為 API 金鑰顯示不同 ID，請照原樣複製廣場中的值。

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.6",
    "messages": [{"role": "user", "content": "Explain this request in three bullets."}],
    "stream": false
  }'

限制與相容性說明

• 上下文達到公布的長上下文門檻時，官方價格加倍；需確認所選路徑的計費方式。
• 圖片輸入有格式與尺寸限制，上線前請驗證前處理。
• 新版 Grok 不支援所有舊版生成選項，包含對數機率。

正式環境評估清單

• 測試前先訂驗收標準，再執行 20–50 個代表性任務。
• 量測首 token 時間、總延遲、輸入輸出 token、工具重試與每個成功任務的成本。
• 測試應用實際使用的端點、串流模式、工具格式與結構化輸出。
• 確認 400、401、404、429 與暫時性 5xx 的處理，並限制重試次數。
• 模型 ID 放在設定中管理，遷移正式請求前先驗證備援模型。

模型廣場要確認什麼

模型廣場列出 API 金鑰可用的 ID、計費倍率、可用狀態、支援端點與相容性說明。部署前用小量請求確認。

• Grok 4.6 上下文為 500K。
• 可依工作設定推理強度。
• LLMFly AI 群組需支援正確模型名稱，不支援的名稱會回傳 404。

從模型研究走到可用 ID

開啟上方模型頁面記下官方 ID，再到模型廣場確認金鑰可用 ID。將 ID 放在設定中，即可檢視與修改而不必重寫應用。