РАБОЧИЙ СЦЕНАРИЙ

API LLM для вызова функций

Помощник по продажам ищет аккаунт, рассчитывает предложение и создаёт черновик заказа. Сначала вызывается lookup_account, затем calculate_quote. create_order недоступен, пока человек не подтвердит точный черновик.

Проверенный вызов функции, связывающий ответ LLM с действием приложения
API LLM для вызова функций

Рабочий пример

API, основная модель и резервная конфигурация

Выбор для рабочей средыРекомендацияПочему
APIPOST /v1/chat/completionsСерверный запрос, совместимый с OpenAI
Основная модельgpt-5.6-terraTerra — исходный выбор для надёжного подбора инструментов и многошагового построения аргументов без старшей модели в каждом вызове.
Запасная модельgpt-5.5После проверки схем инструментов используйте gpt-5.5 для запросов только на чтение с одним инструментом. Неоднозначные планы с несколькими зависимыми инструментами передавайте Sol.
Модель для сложных задачgpt-5.6-solИспользуйте только при выходе за возможности основной модели по качеству или сложности
Требования к выводуПроверенные вызовы инструментовПроверенные вызовы и черновик предложения; внешний заказ не создаётся до подтверждения.
01
Сценарий

Рабочее приложение для вызова функций

Помощник по продажам ищет аккаунт, рассчитывает предложение и создаёт черновик заказа. Сначала вызывается lookup_account, затем calculate_quote. create_order недоступен, пока человек не подтвердит точный черновик.

Модель предлагает вызовы; приложение перед выполнением проверяет схему, права и состояние. Ошибки возвращаются структурированно; одинаковые неверные вызовы не повторяются.

02
Архитектура

Как устроен процесс вызова функций

  • Предоставьте только инструменты, разрешённые в текущем состоянии.
  • Пусть модель выберет инструмент и предложит аргументы.
  • Проверяйте каждый аргумент и право в коде приложения.
  • Для возможной записи используйте ключ идемпотентности.
  • Верните структурированный результат и продолжайте до заданного условия остановки.
03
Запрос API

Вызовите gpt-5.6-terra через LLMFly AI

Отправляйте запрос с сервера. Замените пример и схему-заглушку данными и инструментами приложения.

request.example
curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-terra",
    "messages": [
      {"role": "system", "content": "Use the available tools to prepare a quote. Never create an order until the user confirms the exact draft. Do not invent account IDs or prices."},
      {"role": "user", "content": "Prepare a quote for 25 seats for Acme's current plan."}
    ],
    "tools": [{"type": "function", "function": {"name": "YOUR_TOOL", "description": "Replace with the tool contract for this workflow", "parameters": {"type": "object", "properties": {}, "additionalProperties": false}}}]
  }'
04
Выбор модели

Почему основная модель — gpt-5.6-terra

Terra — исходный выбор для надёжного подбора инструментов и многошагового построения аргументов без старшей модели в каждом вызове.

После проверки схем инструментов используйте gpt-5.5 для запросов только на чтение с одним инструментом. Неоднозначные планы с несколькими зависимыми инструментами передавайте Sol.

05
Приёмка

Проверки результата вызова функций

ПоказательУсловие успеха
Доля правильного выбора инструментовМодель вызывает нужный инструмент и не вызывает инструменты без необходимости
Доля корректных аргументовАргументы проходят проверку схемы, диапазона, идентификатора и прав
Восстановление после ошибок инструментовПосле исправимой ошибки вызов корректируется, а не повторяется без изменений
Доля небезопасных вызововИнструменты с существенными последствиями не выполняются без нужных прав или подтверждения
06
Обработка ошибок

Ошибки, которые нужно обработать до запуска

  • Выполнять непроверенные аргументы
  • Повторять тот же неверный вызов
  • Использовать пересекающиеся описания инструментов
  • Позволять тексту обходить права доступа
07
Выход

Вывод и журналы выполнения

Проверенные вызовы и черновик предложения; внешний заказ не создаётся до подтверждения.

Для каждого рабочего запуска записывайте ID модели и запроса, токены, повторы, проверку и итоговое решение.

Частые вопросы

Какую метрику отслеживать первой?

До деталей аргументов проверьте, выбрана ли нужная инструментальная функция или правильно ли решено не вызывать её.

Можно ли доверять аргументам инструмента?

Нет. Проверяйте типы, обязательные поля, диапазоны, идентификаторы и права.

Как возвращать ошибки инструментов?

Возвращайте короткую структурированную ошибку без секретов и внутренних трассировок.

Проверьте настройки на своих данных

Сравните основную и запасную модели с одинаковыми запросами, инструментами и правилами проверки.

Сравнить модели