API de IA para chatbots de atendimento

Chatbots de atendimento em produção

Um cliente de SaaS pergunta por que uma fatura foi cobrada duas vezes. O serviço consulta a política de cobrança atual e o estado da fatura com dados sensíveis ocultos. O modelo responde com essas fontes ou retorna um objeto de encaminhamento.

O modelo não pode fazer reembolsos nem inventar o estado da conta. Se a identidade não for verificada, as fontes conflitarem ou uma ferramenta de cobrança falhar, encaminhe a uma pessoa com resumo e IDs de fontes.

Como funciona o processo de chatbots de atendimento

• Classifique a consulta e confira os requisitos de identidade.
• Consulte políticas aprovadas e dados da conta com informações sensíveis ocultas.
• Gere uma resposta com IDs de fontes internas ou um objeto de encaminhamento.
• Confira se cada afirmação tem respaldo.
• Encaminhe antes de qualquer ação importante na conta.

Chame gemini-2.5-flash pela LLMFly AI

Envie a requisição pelo servidor. Troque o conteúdo e os esquemas de exemplo pelos dados e ferramentas do aplicativo.

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-2.5-flash",
    "messages": [
      {"role": "system", "content": "Answer only from SOURCES and ACCOUNT_FACTS. If evidence is missing, identity is unverified, or an action requires permission, return ESCALATE with a concise reason."},
      {"role": "user", "content": "The customer says this invoice was charged twice. Explain the status or escalate."}
    ],
    "response_format": {"type": "json_object"}
  }'

Por que gemini-2.5-flash é o modelo principal

Gemini 2.5 Flash é a opção inicial para muitas consultas com regras claras de resposta e encaminhamento. Valide a linguagem e o cumprimento das políticas nos seus casos.

Use Terra como alternativa testada quando Flash não cumprir as regras de resposta. Encaminhe conflitos complexos de políticas ou casos de conta com várias ferramentas ao Sol ou a uma pessoa.

Testes de aceitação de chatbots de atendimento

Falhas a tratar antes de publicar

• Evitar encaminhamentos a qualquer custo
• Deixar o bot inventar políticas
• Enviar dados sensíveis desnecessários
• Medir apenas respostas isoladas

Saída e histórico de execução

Uma resposta fundamentada com IDs de fontes internas ou um motivo estruturado para encaminhamento.

Registre ID do modelo e da requisição, tokens, novas tentativas, validação e decisão final em cada execução de produção.