Modelos Grok de xAI

Elige el modelo adecuado de la familia

Empieza con el modelo más pequeño que pueda cubrir la tarea. Compáralo con uno más capaz usando las mismas pruebas y elige por calidad útil, latencia, fiabilidad y coste total.

• Elige Grok 4.6 para código, trabajo de conocimiento y agentes con herramientas que aprovechen un contexto amplio.
• Usa low o medium en tareas interactivas. Prueba high o xhigh solo si la calidad compensa la latencia y el coste de salida.
• Prefiere una ruta más pequeña para clasificar o extraer si las pruebas no muestran ventajas del modelo principal.

Entradas, salidas, contexto y herramientas

• Entrada de texto e imágenes y salida de texto mediante Responses y Chat Completions.
• El contexto de 500K permite trabajar con bases de código grandes, documentos largos e historial extenso de agentes.
• Las herramientas publicadas incluyen funciones, búsqueda web, búsqueda en X y ejecución de código.
• Razonamiento: low, medium, high y xhigh; el valor predeterminado documentado es high.

Para qué tareas sirve esta familia

Son buenos candidatos iniciales. Pruébalos con tus prompts, herramientas y criterios; no sirven igual para todas las tareas.

• Código de varios archivos, depuración y análisis de repositorios.
• Agentes de investigación con búsqueda web y en X y herramientas estructuradas.
• Trabajo de conocimiento extenso con grandes colecciones de fuentes.
• Procesos de varios pasos con ejecución de código y llamadas a funciones.

Control de razonamiento, contexto y coste

No compares solo la tarifa de entrada. Incluye salida, lectura y escritura de caché, contexto largo, razonamiento, herramientas, reintentos e historial reenviado en cada turno.

• Usa prompt_cache_key o el encabezado de conversación de Chat Completions para favorecer la reutilización de caché en ciclos largos.
• Reduce o resume el contexto antes del límite 500K, en lugar de reenviar un historial cada vez mayor.
• La información reciente de internet o X requiere su herramienta de búsqueda. El modelo por sí solo no es una fuente en tiempo real.

Envía una solicitud mínima

El ejemplo usa el primer ID del proveedor en la tabla. Si el catálogo muestra otro ID para tu clave, copia exactamente ese valor.

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.6",
    "messages": [{"role": "user", "content": "Explain this request in three bullets."}],
    "stream": false
  }'

Límites y compatibilidad

• El precio del proveedor se duplica al alcanzar el umbral de contexto largo. Confirma cómo lo cobra la ruta elegida.
• Las imágenes tienen límites de formato y tamaño; valida su preparación antes de producción.
• Los Grok más recientes no admiten todas las opciones antiguas de generación, incluidas las probabilidades logarítmicas.

Lista de pruebas para producción

• Define los criterios de aprobación antes de probar 20–50 tareas representativas.
• Mide tiempo hasta el primer token, latencia total, tokens de entrada y salida, reintentos de herramientas y coste por tarea resuelta.
• Prueba el endpoint, el streaming, los esquemas de herramientas y la salida estructurada que usa tu aplicación.
• Verifica los errores 400, 401, 404, 429 y los 5xx temporales, con un límite de reintentos.
• Guarda el ID en la configuración y valida una alternativa antes de mover solicitudes de producción.

Qué confirmar en el catálogo

El catálogo muestra los ID disponibles para tu clave, sus multiplicadores, disponibilidad, endpoints y notas de compatibilidad. Verifica estos datos con una solicitud pequeña antes de desplegar.

• Grok 4.6 tiene un contexto de 500K.
• Puedes ajustar el razonamiento según la tarea.
• El grupo de LLMFly AI debe admitir el nombre exacto; un nombre no compatible devuelve 404.

Del modelo que estudiaste al ID que puedes usar

Consulta el ID del proveedor en la página del modelo y confirma en el catálogo el ID disponible para tu clave. Guárdalo en configuración para revisarlo y cambiarlo sin reescribir la aplicación.