生产使用场景

用于文档分析的 LLM API

法务运营团队比较主服务协议、安全补充协议和价格表。解析器保留页码、标题、表格和脚注;模型接收选中的章节,生成逐条款差异报告。

带引用证据和结构化发现的长文档分析
用于文档分析的 LLM API

生产方案

API、主模型与故障切换配置

生产选择推荐配置原因
APIPOST /v1/chat/completions从服务端发送 OpenAI 兼容请求
主模型gemini-2.5-proGemini 2.5 Pro 是大型混合文档集合和跨文档比较的首选路由。
备用模型gpt-5.6-terra已经缩减到相关章节的纯文本集合可使用 Terra。只有未解决的高风险条款才升级到 Sol 或法律顾问。
升级模型gpt-5.6-sol只有主路由越过已定义的质量或复杂度边界时才使用
输出契约经过验证的 JSON逐条款差异表,每一行都有文档和页码引用。
01
业务场景

文档分析在生产应用中的实际场景

法务运营团队比较主服务协议、安全补充协议和价格表。解析器保留页码、标题、表格和脚注;模型接收选中的章节,生成逐条款差异报告。

每个差异都必须引用准确文档和页码。模型调用前检查 OCR 置信度;扫描质量差时重新处理,而不是要求模型猜测。

02
应用架构

文档分析工作流怎样运行

  • 解析文档并保留页码与结构引用。
  • 选择与审查问题相关的条款。
  • 要求返回规范化差异表。
  • 逐条把引用与来源范围核对。
  • 缺失、冲突或低 OCR 证据进入审查。
03
API 请求

通过 LLMFly AI 调用 gemini-2.5-pro

请求应从服务端发送。请将示例内容和占位工具 Schema 替换为应用中的真实数据与工具。

request.example可复制示例
curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-2.5-pro",
    "messages": [
      {"role": "system", "content": "Compare the supplied contract sections. Return a deviation table with issue, baseline clause, changed clause, risk, document ID, and page. Never infer missing text."},
      {"role": "user", "content": "Compare liability, security, renewal, and pricing terms across these documents."}
    ],
    "response_format": {"type": "json_object"}
  }'
04
模型选择

为什么主模型选择 gemini-2.5-pro

Gemini 2.5 Pro 是大型混合文档集合和跨文档比较的首选路由。

已经缩减到相关章节的纯文本集合可使用 Terra。只有未解决的高风险条款才升级到 Sol 或法律顾问。

05
验收

文档分析的验收条件

指标通过条件
证据准确性每个重要回答都指向正确的页码、章节、表格或脚注
跨章节召回率跨章节问题包含所有必要的支持段落
表格与脚注处理能力表格和脚注中的数值及限定条件在解析后保持正确
每份文档的成本解析、检索、生成和验证总成本不超过单文档预算
06
失败处理

上线前必须处理的失败情况

  • 假设大上下文可以替代检索
  • 丢失页码引用
  • 给流畅但无依据的摘要高分
  • 忽略格式异常页
07
输出

返回结果与运行记录

逐条款差异表,每一行都有文档和页码引用。

每次生产运行都应记录模型 ID、Request ID、Token 用量、重试、验证结果和最终处理状态。

常见问题

整份文档应该放进一个提示词吗?

只有路由、任务、延迟和成本都允许时才适合;检索通常仍有价值。

怎样审计回答?

保留页码标识,并要求重要回答指向支持段落。

扫描 PDF 怎样处理?

在评估语言模型前,应单独评估 OCR 质量。

使用你的真实输入测试这套方案

让主模型和备用模型使用相同请求、工具和验证规则。

比较模型