CASO DE USO EN PRODUCCIÓN
Un asistente interno responde con manuales de RR. HH. y anexos regionales. Las fuentes se buscan antes de llamar al modelo. Cada fragmento conserva ID de documento, sección, fecha de vigencia y etiqueta de acceso.
Implementación para producción
| Elección para producción | Recomendación | Por qué |
|---|---|---|
| API | POST /v1/chat/completions | Solicitud del servidor compatible con OpenAI |
| Modelo principal | gemini-2.5-pro | Gemini 2.5 Pro es la ruta principal para pruebas extensas y síntesis entre documentos. |
| Modelo alternativo | gemini-2.5-flash | Usa Gemini 2.5 Flash para respuestas breves con buenas fuentes recuperadas. Escala una síntesis de políticas ambigua a Terra solo después de verificar la búsqueda. |
| Modelo para tareas más difíciles | gpt-5.6-terra | Úsalo solo si la ruta principal no alcanza el umbral de calidad o complejidad |
| Formato esperado | Texto o cambios según la tarea | Una respuesta con IDs de fragmentos tras cada afirmación importante o una explicación clara de la falta de pruebas. |
Un asistente interno responde con manuales de RR. HH. y anexos regionales. Las fuentes se buscan antes de llamar al modelo. Cada fragmento conserva ID de documento, sección, fecha de vigencia y etiqueta de acceso.
Gemini 2.5 Pro recibe solo los fragmentos seleccionados y debe citar los IDs utilizados. Si las políticas regionales se contradicen, la respuesta muestra el conflicto sin elegir a escondidas.
Envía la solicitud desde el servidor. Sustituye el contenido de ejemplo y los esquemas de muestra por datos y herramientas de tu aplicación.
curl https://app.llmfly.ai/v1/chat/completions \
-H "Authorization: Bearer $LLMFLY_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gemini-2.5-pro",
"messages": [
{"role": "system", "content": "Answer only from the supplied passages. Cite passage IDs after each material sentence. If passages are missing or conflicting, state that explicitly."},
{"role": "user", "content": "Can a Shanghai employee carry unused leave into next year? Use the supplied policy passages."}
]
}'Gemini 2.5 Pro es la ruta principal para pruebas extensas y síntesis entre documentos.
Usa Gemini 2.5 Flash para respuestas breves con buenas fuentes recuperadas. Escala una síntesis de políticas ambigua a Terra solo después de verificar la búsqueda.
| Métrica | Condición para aprobar |
|---|---|
| Recuperación de pruebas | La búsqueda devuelve el fragmento conocido que respalda las preguntas de prueba |
| Exactitud de las citas | Cada cita respalda directamente la frase o el campo asociado |
| Afirmaciones sin respaldo | La respuesta final no contiene afirmaciones importantes sin fuente |
| Abstenciones correctas | El asistente no responde o matiza si las fuentes faltan, están desactualizadas o se contradicen |
Una respuesta con IDs de fragmentos tras cada afirmación importante o una explicación clara de la falta de pruebas.
Registra ID del modelo y solicitud, tokens, reintentos, validación y decisión final en cada ejecución de producción.
Ambos importan. Evalúalos por separado para no confundir una fuente omitida con un fallo de generación.
Usa el conjunto mínimo que respalde bien la respuesta dentro del presupuesto.
Muestra el desacuerdo, las fuentes y las fechas sin elegir una versión en silencio.
Compara principal y alternativo con las mismas solicitudes, herramientas y reglas de validación.