운영 활용 예시

업무 자동화용 LLM API

지급 흐름이 청구서를 읽고 구매 주문과 대조합니다. 모델이 차이를 분류하면 승인 대기 또는 예외 티켓으로 보냅니다. 흐름 상태는 채팅 기록이 아니라 앱 데이터베이스에 저장합니다.

재시도·체크포인트·최종 상태가 있는 다단계 자동화
업무 자동화용 LLM API

운영 구현 예시

API·기본 모델·대체 설정

운영 모델 선택추천이유
APIPOST /v1/chat/completionsOpenAI 호환 서버 요청
기본 모델gpt-5.6-terra범위가 정해진 판단은 Terra가 맡으며 정책·예외 분류에 필요한 추론을 유지합니다.
대체 모델gemini-2.5-flash검증을 통과한 좁은 분류에는 Gemini 2.5 Flash를 쓰세요. 새로운 예외는 모델 권한을 늘리지 말고 Sol 또는 담당자에게 넘기세요.
고난도 작업용 상위 모델gpt-5.6-sol기본 경로가 정한 품질·복잡도 기준을 못 맞출 때만 사용
출력 규칙검증된 JSON구조화된 분류·정책 규칙 ID·설명과 필요한 경우 검토 사유를 반환합니다.
01
사용 상황

운영 앱의 업무 자동화

지급 흐름이 청구서를 읽고 구매 주문과 대조합니다. 모델이 차이를 분류하면 승인 대기 또는 예외 티켓으로 보냅니다. 흐름 상태는 채팅 기록이 아니라 앱 데이터베이스에 저장합니다.

모델은 모호한 분류만 판단합니다. 파싱·계산·중복 탐지·쓰기·재시도·기한은 정해진 로직으로 처리합니다. 모든 외부 쓰기에 중복 방지 키를 붙입니다.

02
구조

업무 자동화 처리 흐름

  • 상태·변경 불가 입력 참조 저장.
  • 정해진 로직으로 파싱·대조.
  • 모호한 판단에만 모델 호출.
  • 정책·확신도 규칙으로 판단 검증.
  • 중복 없이 다음 상태 저장 또는 검토 이관.
03
API 요청

LLMFly AI로 gpt-5.6-terra 호출

서버에서 요청하세요. 예시 내용과 임시 도구 스키마를 앱의 데이터·도구로 바꾸세요.

request.example
curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-terra",
    "messages": [
      {"role": "system", "content": "Classify the invoice discrepancy using the supplied policy. Return MATCH, REVIEW, or REJECT with the exact policy rule. Do not perform any external action."},
      {"role": "user", "content": "Classify this invoice and purchase-order discrepancy."}
    ],
    "response_format": {"type": "json_object"}
  }'
04
모델 선택

gpt-5.6-terra를 기본 모델로 고른 이유

범위가 정해진 판단은 Terra가 맡으며 정책·예외 분류에 필요한 추론을 유지합니다.

검증을 통과한 좁은 분류에는 Gemini 2.5 Flash를 쓰세요. 새로운 예외는 모델 권한을 늘리지 말고 Sol 또는 담당자에게 넘기세요.

05
합격 기준

업무 자동화 합격 기준

지표합격 조건
전체 흐름 완료율필수 단계를 모두 충족하고 성공 상태를 기록
중복 쓰기 비율재실행·재시도로 메시지·티켓·결제·업데이트가 중복되지 않음
수동 개입 비율미리 정한 예외에만 사람이 흐름을 재개함
흐름당 비용·시간성공한 실행이 흐름의 시간·비용 예산 내에 있음
06
실패 처리

배포 전 처리할 오류

  • 채팅 기록을 상태 저장소로 사용
  • 중복 방지 없는 쓰기 재시도
  • 불필요한 권한 부여
  • 최종 실패 경로 없음
07
출력

출력·실행 기록

구조화된 분류·정책 규칙 ID·설명과 필요한 경우 검토 사유를 반환합니다.

운영 실행마다 모델 ID, 요청 ID, 토큰 사용량, 재시도, 검증 결과와 최종 처리를 기록하세요.

자주 묻는 질문

흐름 상태는 어디에 저장하나요?

앱 데이터베이스나 워크플로 엔진에 저장하고 모델에는 관련 상태만 보내세요.

어떤 작업에 중복 방지가 필요한가요?

재시도 가능한 모든 외부 쓰기입니다. 메시지·티켓·결제·업데이트를 포함합니다.

재시도는 언제 멈추나요?

제한된 정책을 쓰고 최종 실패는 복구 정보와 함께 검토 대기열로 보내세요.

내 입력으로 구성 시험

같은 요청, 도구와 검증 규칙으로 기본·대체 모델을 비교하세요.

모델 비교하기