РАБОЧИЙ СЦЕНАРИЙ

API LLM для автоматизации процессов

Процесс оплаты читает счёт, сопоставляет с заказом, просит модель классифицировать расхождения и отправляет на утверждение либо создаёт заявку об исключении. Состояние хранится в базе приложения, а не в истории чата.

Многошаговая автоматизация с повторами, контрольными точками и итоговым состоянием
API LLM для автоматизации процессов

Рабочий пример

API, основная модель и резервная конфигурация

Выбор для рабочей средыРекомендацияПочему
APIPOST /v1/chat/completionsСерверный запрос, совместимый с OpenAI
Основная модельgpt-5.6-terraTerra выполняет ограниченный этап принятия решения с достаточным анализом правил и исключений.
Запасная модельgemini-2.5-flashДля узких классификаций, прошедших проверку, используйте Gemini 2.5 Flash. Новые исключения передавайте Sol или человеку, не расширяя права модели.
Модель для сложных задачgpt-5.6-solИспользуйте только при выходе за возможности основной модели по качеству или сложности
Требования к выводуПроверенный JSONСтруктурированная категория, ID правила, объяснение и причина проверки при необходимости.
01
Сценарий

Рабочее приложение для автоматизации процессов

Процесс оплаты читает счёт, сопоставляет с заказом, просит модель классифицировать расхождения и отправляет на утверждение либо создаёт заявку об исключении. Состояние хранится в базе приложения, а не в истории чата.

Модель решает только неоднозначную классификацию. Разбор, расчёты, поиск дублей, запись, повторы и сроки управляются фиксированной логикой. Каждая внешняя запись содержит ключ идемпотентности.

02
Архитектура

Как устроен процесс автоматизации процессов

  • Сохраните состояние и неизменяемые ссылки на входные данные.
  • Выполните разбор и сопоставление по фиксированной логике.
  • Вызывайте модель только для неоднозначного решения.
  • Проверьте решение по правилам и уровню уверенности.
  • Запишите следующее состояние без дублей или передайте на проверку.
03
Запрос API

Вызовите gpt-5.6-terra через LLMFly AI

Отправляйте запрос с сервера. Замените пример и схему-заглушку данными и инструментами приложения.

request.example
curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-terra",
    "messages": [
      {"role": "system", "content": "Classify the invoice discrepancy using the supplied policy. Return MATCH, REVIEW, or REJECT with the exact policy rule. Do not perform any external action."},
      {"role": "user", "content": "Classify this invoice and purchase-order discrepancy."}
    ],
    "response_format": {"type": "json_object"}
  }'
04
Выбор модели

Почему основная модель — gpt-5.6-terra

Terra выполняет ограниченный этап принятия решения с достаточным анализом правил и исключений.

Для узких классификаций, прошедших проверку, используйте Gemini 2.5 Flash. Новые исключения передавайте Sol или человеку, не расширяя права модели.

05
Приёмка

Проверки результата автоматизации процессов

ПоказательУсловие успеха
Доля полностью завершённых процессовПроцесс достигает записанного успешного состояния после всех обязательных шагов
Доля повторных записейПовторы не создают дублей сообщений, заявок, платежей или обновлений
Доля ручного вмешательстваЧеловек требуется для продолжения только в заранее заданных исключениях
Стоимость и длительность процессаУспешные запуски укладываются в сроки и бюджет процесса
06
Обработка ошибок

Ошибки, которые нужно обработать до запуска

  • Хранить состояние в истории чата
  • Повторять записи без идемпотентности
  • Выдавать лишние права
  • Не предусматривать завершение при ошибке
07
Выход

Вывод и журналы выполнения

Структурированная категория, ID правила, объяснение и причина проверки при необходимости.

Для каждого рабочего запуска записывайте ID модели и запроса, токены, повторы, проверку и итоговое решение.

Частые вопросы

Где хранить состояние процесса?

Храните в базе приложения или движке процессов, а модели передавайте только нужное состояние.

Какие действия должны быть идемпотентными?

Любая внешняя запись с возможным повтором: сообщения, заявки, платежи и обновления.

Когда прекращать повторы?

Ограничьте повторы и передавайте окончательные ошибки на проверку с данными для восстановления.

Проверьте настройки на своих данных

Сравните основную и запасную модели с одинаковыми запросами, инструментами и правилами проверки.

Сравнить модели