다국어 챗봇용 LLM API

운영 앱의 다국어 챗봇

여행 서비스가 영어·일본어·스페인어·중국어를 지원합니다. 대화의 언어·지역을 감지하고 해당 제품 용어집과 정책을 불러옵니다. 지정한 제품명은 번역하지 않고 답합니다.

품질은 언어별로 따로 평가합니다. 평균 점수만으로 언어를 출시하지 않습니다. 원어민이 해당 지역의 의도·용어·말투·거절 방식을 확인한 뒤 출시합니다.

다국어 챗봇 처리 흐름

• 언어·지역 별도 감지.
• 지역 용어집·승인된 정책 불러오기.
• 대상 언어로 바로 생성.
• 지정 용어·숫자·정책 표현 확인.
• 미지원 언어·확신 낮은 답변은 담당자에게 이관.

LLMFly AI로 gemini-2.5-flash 호출

서버에서 요청하세요. 예시 내용과 임시 도구 스키마를 앱의 데이터·도구로 바꾸세요.

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-2.5-flash",
    "messages": [
      {"role": "system", "content": "Reply in the detected locale. Preserve GLOSSARY terms exactly. Use only the supplied locale policy and do not translate protected product names."},
      {"role": "user", "content": "Explain the cancellation window in the customer's language using the locale policy."}
    ]
  }'

gemini-2.5-flash를 기본 모델로 고른 이유

다국어·빠른 응답이 필요한 채팅은 Gemini 2.5 Flash를 우선 선택합니다.

Terra는 같은 원어민 검토를 통과한 언어에만 쓰세요. 정책이 복잡하거나 혼합 언어 처리에 실패하면 Sol 또는 담당자에게 넘기세요.

다국어 챗봇 합격 기준

배포 전 처리할 오류

• 영어 결과로 모든 언어를 예측
• 평가 자료를 기계 번역
• 지역 정책 무시
• 평균으로 약한 언어를 가림

출력·실행 기록

지역에 맞게 답하고 지정 용어를 유지하며 다른 지역 정책을 섞지 않습니다.

운영 실행마다 모델 ID, 요청 ID, 토큰 사용량, 재시도, 검증 결과와 최종 처리를 기록하세요.