程式碼生成用 LLM API

正式應用中的程式碼生成

情境：產品團隊收到小功能工單，為既有報表頁新增 CSV 匯出，不變更公開 API。 將工單、儲存庫規範、受影響檔案與測試命令交給模型。 回傳統一格式差異檔，以及證明功能可用的測試。

LLMFly AI 僅負責生成。 應用仍在臨時 worktree 檢查修正、執行 lint 與測試，將失敗作為新訊息送回。 不會直接合併第一筆回應。

程式碼生成流程如何運作

• 取得工單、規範、受影響檔案與測試命令。
• 要求統一差異檔與新增或修改的測試。
• 只在臨時 worktree 套用修正。
• 執行確定性驗證，失敗送回進行一次有界修正。
• 通過的修正交由人工審查。

透過 LLMFly AI 呼叫 gpt-5.6-terra

從伺服器送出請求，將範例內容與預留工具格式換成應用的資料與工具。

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-terra",
    "messages": [
      {"role": "system", "content": "You are editing an existing repository. Return only a unified diff. Preserve public APIs, follow the supplied conventions, and include tests for every acceptance criterion."},
      {"role": "user", "content": "Add CSV export to the report page. Files and acceptance criteria follow below."}
    ]
  }'

為什麼以 gpt-5.6-terra 為主要模型

預設用 Terra，因為此流程需要理解儲存庫並產生可用修正，但不需每張工單都用 Sol 等級推理。

小型獨立修改只在通過相同驗收測試後使用 gpt-5.5；跨架構邊界，或 Terra 同一測試失敗兩次時升級 Sol。

程式碼生成驗收檢查

部署前要處理的失敗

• 只測試簡單示例
• 採用能編譯但未滿足需求的程式碼
• 候選模型使用不一致的上下文
• 忽略審查與修正成本

回傳輸出與執行紀錄

可順利套用的差異檔，以及涵蓋所有驗收條件的測試。

每次正式執行記錄模型 ID、請求 ID、token 用量、重試、驗證結果與最終處理。