LLM API 使用範例

建立適合應用的 LLM 工作流程

選擇要建立的功能。每個場景都列出推薦模型、備援路徑、API 請求、應用流程、輸出規則與上線檢查。

選擇主題

程式開發

程式碼生成用 LLM API

透過伺服器端 LLM API，將文字需求轉為應用程式碼、測試與可審查的修正。

程式開發

程式碼審查用 LLM API

檢查 Pull Request 的缺陷與安全風險，回傳附證據、開發者能採取行動的行內意見。

程式開發

儲存庫重構用 LLM API

規劃並執行多檔案重構，同時保留行為、公開 API、測試與架構邊界。

聊天機器人

客服聊天機器人用 LLM API

依核准的客服內容回答，安全使用帳戶工具，敏感問題轉交真人。

聊天機器人

RAG 聊天機器人用 LLM API

依私人文件附來源回答並檢查證據；資料不足時清楚說明。

聊天機器人

多語言聊天機器人用 LLM API

以多種語言服務客戶，同時保留原意、用語、地區規則與轉交流程。

Agent

函式呼叫用 LLM API

讓 LLM 選擇應用函式、產生有效參數、從工具錯誤恢復，必要時停下等待確認。

Agent

瀏覽器 Agent 用 LLM API

建立能理解目前介面、選擇安全操作、處理變更並驗證最終狀態的瀏覽器 Agent。

Agent

工作流程自動化用 LLM API

將 LLM 判斷加入多步驟業務流程，保留明確狀態、重複執行防護、核准與稽核能力。

推理

文件分析用 LLM API

分析合約、報告、研究與政策，回答和摘要連結到佐證段落。

推理

結構化資料擷取用 LLM API

將文件、郵件、工單與其他非結構化文字轉成通過驗證、符合格式的 JSON。

推理

數學推理用 LLM API

以計算器或程式驗證數量問題，保持單位一致，並依核對後的結果解釋。

實用指南

選擇想建立的功能

開啟最接近應用的任務。範例涵蓋程式碼變更、客戶對話、工具自動化、文件處理與驗證推理。

程式開發：產生功能、審查 Pull Request 或重構儲存庫。
聊天機器人：客服回答、私人知識或多語言服務。
Agent：呼叫函式、操作瀏覽器工具或執行多步驟流程。
文件與資料：分析長檔案、擷取驗證過的 JSON 或解釋核對過的計算。

查看完整上線設定

每個場景包含主要與備援模型、可複製請求、應用架構、預期輸出、失敗處理與可衡量驗收條件。

正確 API 端點與模型 ID。
伺服器端請求範例與輸出規則。
備援與轉交條件。
驗證、紀錄與安全要求。

常見問題

這些 LLM API 範例能建立什麼？

涵蓋程式碼生成與審查、客服與 RAG 聊天機器人、函式呼叫、瀏覽器與流程 Agent、文件分析、結構化擷取和數學解釋。

如何為應用選擇模型？

從推薦路徑開始，用應用的代表性輸入測試，比較主要與備援模型的可採用結果、延遲、重試及總成本。

所有流程能用同一個模型嗎？

可以，但每個流程都要單獨驗證。對話表現好的模型，在工具、嚴格 JSON、大儲存庫或長文件中可能表現不同。

為流程選擇模型

使用自己應用的請求，比較推薦路徑與備援模型。

瀏覽模型