사용 상황
운영 앱의 업무 자동화
지급 흐름이 청구서를 읽고 구매 주문과 대조합니다. 모델이 차이를 분류하면 승인 대기 또는 예외 티켓으로 보냅니다. 흐름 상태는 채팅 기록이 아니라 앱 데이터베이스에 저장합니다.
모델은 모호한 분류만 판단합니다. 파싱·계산·중복 탐지·쓰기·재시도·기한은 정해진 로직으로 처리합니다. 모든 외부 쓰기에 중복 방지 키를 붙입니다.
운영 활용 예시
지급 흐름이 청구서를 읽고 구매 주문과 대조합니다. 모델이 차이를 분류하면 승인 대기 또는 예외 티켓으로 보냅니다. 흐름 상태는 채팅 기록이 아니라 앱 데이터베이스에 저장합니다.

운영 구현 예시
| 운영 모델 선택 | 추천 | 이유 |
|---|---|---|
| API | POST /v1/chat/completions | OpenAI 호환 서버 요청 |
| 기본 모델 | gpt-5.6-terra | 범위가 정해진 판단은 Terra가 맡으며 정책·예외 분류에 필요한 추론을 유지합니다. |
| 대체 모델 | gemini-2.5-flash | 검증을 통과한 좁은 분류에는 Gemini 2.5 Flash를 쓰세요. 새로운 예외는 모델 권한을 늘리지 말고 Sol 또는 담당자에게 넘기세요. |
| 고난도 작업용 상위 모델 | gpt-5.6-sol | 기본 경로가 정한 품질·복잡도 기준을 못 맞출 때만 사용 |
| 출력 규칙 | 검증된 JSON | 구조화된 분류·정책 규칙 ID·설명과 필요한 경우 검토 사유를 반환합니다. |
지급 흐름이 청구서를 읽고 구매 주문과 대조합니다. 모델이 차이를 분류하면 승인 대기 또는 예외 티켓으로 보냅니다. 흐름 상태는 채팅 기록이 아니라 앱 데이터베이스에 저장합니다.
모델은 모호한 분류만 판단합니다. 파싱·계산·중복 탐지·쓰기·재시도·기한은 정해진 로직으로 처리합니다. 모든 외부 쓰기에 중복 방지 키를 붙입니다.
서버에서 요청하세요. 예시 내용과 임시 도구 스키마를 앱의 데이터·도구로 바꾸세요.
curl https://app.llmfly.ai/v1/chat/completions \
-H "Authorization: Bearer $LLMFLY_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-5.6-terra",
"messages": [
{"role": "system", "content": "Classify the invoice discrepancy using the supplied policy. Return MATCH, REVIEW, or REJECT with the exact policy rule. Do not perform any external action."},
{"role": "user", "content": "Classify this invoice and purchase-order discrepancy."}
],
"response_format": {"type": "json_object"}
}'범위가 정해진 판단은 Terra가 맡으며 정책·예외 분류에 필요한 추론을 유지합니다.
검증을 통과한 좁은 분류에는 Gemini 2.5 Flash를 쓰세요. 새로운 예외는 모델 권한을 늘리지 말고 Sol 또는 담당자에게 넘기세요.
| 지표 | 합격 조건 |
|---|---|
| 전체 흐름 완료율 | 필수 단계를 모두 충족하고 성공 상태를 기록 |
| 중복 쓰기 비율 | 재실행·재시도로 메시지·티켓·결제·업데이트가 중복되지 않음 |
| 수동 개입 비율 | 미리 정한 예외에만 사람이 흐름을 재개함 |
| 흐름당 비용·시간 | 성공한 실행이 흐름의 시간·비용 예산 내에 있음 |
구조화된 분류·정책 규칙 ID·설명과 필요한 경우 검토 사유를 반환합니다.
운영 실행마다 모델 ID, 요청 ID, 토큰 사용량, 재시도, 검증 결과와 최종 처리를 기록하세요.
앱 데이터베이스나 워크플로 엔진에 저장하고 모델에는 관련 상태만 보내세요.
재시도 가능한 모든 외부 쓰기입니다. 메시지·티켓·결제·업데이트를 포함합니다.
제한된 정책을 쓰고 최종 실패는 복구 정보와 함께 검토 대기열로 보내세요.
같은 요청, 도구와 검증 규칙으로 기본·대체 모델을 비교하세요.