함수 호출용 LLM API

운영 앱의 함수 호출

영업 도우미가 계정을 조회하고 견적을 계산하고 주문 초안을 만듭니다. 먼저 lookup_account, 다음 calculate_quote를 호출합니다. 담당자가 정확한 초안을 확인하기 전에는 create_order를 쓸 수 없습니다.

모델은 도구 호출을 제안하고 앱은 실행 전에 스키마·권한·상태를 검증합니다. 도구 오류는 구조화된 결과로 반환하며 같은 잘못된 호출을 반복하지 않습니다.

함수 호출 처리 흐름

• 현재 상태에서 허용된 도구만 제공.
• 모델이 도구·인수를 제안.
• 앱 코드에서 모든 인수·권한 검증.
• 쓰기 작업은 중복 방지 키로 실행.
• 구조화된 결과를 반환하고 정해진 종료 조건까지 진행.

LLMFly AI로 gpt-5.6-terra 호출

서버에서 요청하세요. 예시 내용과 임시 도구 스키마를 앱의 데이터·도구로 바꾸세요.

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-terra",
    "messages": [
      {"role": "system", "content": "Use the available tools to prepare a quote. Never create an order until the user confirms the exact draft. Do not invent account IDs or prices."},
      {"role": "user", "content": "Prepare a quote for 25 seats for Acme's current plan."}
    ],
    "tools": [{"type": "function", "function": {"name": "YOUR_TOOL", "description": "Replace with the tool contract for this workflow", "parameters": {"type": "object", "properties": {}, "additionalProperties": false}}}]
  }'

gpt-5.6-terra를 기본 모델로 고른 이유

안정적인 도구 선택과 다단계 인수 구성은 Terra를 기본으로 씁니다. 매번 최상위 모델을 쓸 필요는 없습니다.

도구 스키마 동작을 확인한 뒤 단일 도구 읽기 전용 요청에는 gpt-5.5를 쓰세요. 여러 도구가 의존하는 모호한 계획은 Sol로 넘기세요.

함수 호출 합격 기준

배포 전 처리할 오류

• 검증하지 않은 인수 실행
• 같은 잘못된 호출 반복
• 서로 겹치는 도구 설명 사용
• 텍스트로 권한을 우회하게 둠

출력·실행 기록

검증된 도구 호출 뒤 견적 초안을 반환합니다. 확인 전에 외부 주문을 생성하지 않습니다.

운영 실행마다 모델 ID, 요청 ID, 토큰 사용량, 재시도, 검증 결과와 최종 처리를 기록하세요.