에이전트가 할 작업 선택
앱 함수 호출, 브라우저 도구 조작이나 여러 단계 작업을 구성하세요. 제품의 허용 동작 범위에 가장 가까운 예시로 시작하세요.
- 함수 호출용 LLM API
- 브라우저 에이전트용 LLM API
- 업무 자동화용 LLM API
에이전트 활용
에이전트용 LLM API
앱 함수 호출, 브라우저 도구 조작이나 여러 단계 작업을 구성하세요. 제품의 허용 동작 범위에 가장 가까운 예시로 시작하세요.
운영 구현 예시
API·기본 모델·대체 설정
| 측정 항목 | 기록 항목 |
|---|---|
| 올바른 도구 선택 | 결과, 지연, 토큰 사용량과 출력 채택·거절 이유 |
| 스키마 준수 | 결과, 지연, 토큰 사용량과 출력 채택·거절 이유 |
| 도구 오류 복구 | 결과, 지연, 토큰 사용량과 출력 채택·거절 이유 |
| 전체 실행 비용 | 결과, 지연, 토큰 사용량과 출력 채택·거절 이유 |
도구·복구를 함께 시험
도구 선택, 인수, 권한, 재시도, 확인과 최종 앱 상태를 검증하세요. 메시지가 맞아 보여도 도구 동작이 틀리면 충분하지 않습니다.
- 올바른 도구 선택
- 스키마 준수
- 도구 오류 복구
- 전체 실행 비용
사용 가능한 결과의 비용 측정
재시도, 도구, 검증, 상위 모델 전환과 수동 수정까지 포함하세요. 토큰 단가뿐 아니라 앱에서 채택 가능한 결과의 총비용을 비교하세요.
자주 묻는 질문
어떤 작업부터 시작하면 되나요?
대표 입력과 명확한 성공 기준이 있는 작업 중 가장 양이 많거나 위험한 것부터 시작하세요.
처음에 몇 개 모델을 시험하나요?
추천 모델과 대체 모델 하나로 시작하세요. 둘 다 품질·지연·비용 기준을 못 맞출 때만 추가하세요.
비교할 때 무엇을 같게 유지하나요?
모든 모델의 입력, 컨텍스트, 도구, 출력 한도, 검증 규칙과 종료 조건을 같게 유지하세요.
이 작업에 맞는 모델 선택
같은 앱 입력·검증 규칙으로 기본 경로와 대체 경로를 비교하세요.