LLM API 使用场景

为你的应用搭建合适的 LLM 工作流

选择你准备构建的功能。每个场景都会给出推荐模型、备用路由、API 请求、应用流程、输出约定和上线检查。

选择一个入口

编码

用于代码生成的 LLM API

通过服务端 LLM API，将文字需求转成应用代码、测试和可审查补丁。

编码

用于代码审查的 LLM API

检查 Pull Request 中的缺陷和安全风险，并返回带证据、可直接处理的行内评论。

编码

用于仓库重构的 LLM API

规划并执行多文件重构，同时保持现有行为、公共 API、测试和架构边界。

聊天机器人

用于客服机器人的 LLM API

依据已审核的支持内容回答客户问题，安全调用账户工具，并将敏感情况转交人工。

聊天机器人

用于 RAG 聊天机器人的 LLM API

根据私有文档回答问题，提供来源引用与证据检查，并在证据不足时明确说明。

聊天机器人

用于多语言聊天机器人的 LLM API

用多种语言服务客户，同时保持原始意图、业务术语、地区规则和转人工逻辑。

Agent

用于函数调用的 LLM API

让 LLM 选择应用函数、生成有效参数、处理工具报错，并在需要时等待用户确认。

Agent

用于浏览器 Agent 的 LLM API

构建能够理解当前界面、选择安全操作、适应页面变化并验证最终状态的浏览器 Agent。

Agent

用于工作流自动化的 LLM API

在多步骤业务流程中加入 LLM 判断，同时保留明确状态、幂等控制、审批和审计记录。

文档与数据

用于文档分析的 LLM API

分析合同、报告、研究资料和政策，并让回答与摘要对应到原文证据。

文档与数据

用于结构化数据抽取的 LLM API

将文档、邮件、工单和其他非结构化文本转换成符合 Schema、经过验证的 JSON。

文档与数据

用于数学推理的 LLM API

使用计算器或代码核对定量问题，保持单位一致，并让解释对应到已验证结果。

使用原则

选择你要构建的功能

进入与应用最接近的任务，查看从模型调用到结果验证的完整做法。这里覆盖代码修改、客户对话、工具自动化、文档处理和可验证计算。

编码：生成功能、审查 Pull Request 或重构代码仓库。
聊天机器人：回答客服问题、查询私有知识库或支持多语言用户。
Agent：调用函数、操作浏览器工具或执行多步骤工作流。
文档与数据：分析长文档、抽取有效 JSON 或解释经过验证的计算结果。

查看完整的生产配置

每个使用场景都包含主模型和备用模型、可复制请求、应用架构、预期输出、失败处理和可衡量的验收条件。

准确的 API Endpoint 和模型 ID。
服务端请求示例与输出约定。
故障切换与升级条件。
验证、日志与安全要求。

常见问题

这些 LLM API 示例可以构建什么？

包括代码生成与审查、客服与 RAG 聊天机器人、函数调用、浏览器与工作流 Agent、文档分析、结构化抽取和数学解释。

应该怎样为应用选择模型？

先测试推荐路由，再用应用中的代表性输入与备用路由比较有效结果、延迟、重试和总成本。

所有工作流可以共用一个模型吗？

可以，但每种工作流都要单独验证。适合对话的模型，在工具调用、严格 JSON、大型仓库或长文档任务中的表现可能不同。

为你的工作流选择模型

使用应用中的真实请求，对比推荐路由和备用路由。

浏览模型