xAI Grok 모델

모델군에서 적합한 모델 선택

작업을 처리할 만한 가장 작은 모델로 시작하고 더 강한 후보 하나와 같은 작업을 비교하세요. 채택 결과의 품질, 지연, 안정성과 총비용으로 고르세요.

• 큰 컨텍스트가 유용한 코딩, 지식 업무와 도구형 에이전트는 Grok 4.6를 고르세요.
• 대화형 작업은 low나 medium을 쓰세요. 품질 향상이 지연·출력 비용을 정당화할 때만 high나 xhigh를 평가하세요.
• 단순 분류·추출에서 대표 모델의 이점이 없으면 더 작은 모델 경로를 선택하세요.

입력·출력·컨텍스트·도구

• Responses·Chat Completions API에서 텍스트·이미지 입력과 텍스트 출력을 지원합니다.
• 500K 컨텍스트로 큰 코드베이스, 긴 문서와 긴 에이전트 기록을 처리합니다.
• 공개 도구는 함수 호출, 웹 검색, X 검색과 코드 실행입니다.
• 추론은 low, medium, high, xhigh를 지원하며 기본값은 high입니다.

이 모델군에 적합한 작업

먼저 시험할 후보입니다. 모든 작업에 맞는 것은 아니니 실제 프롬프트, 도구와 합격 기준으로 검증하세요.

• 여러 파일 코딩, 디버깅과 저장소 분석.
• 웹·X 검색과 구조화 도구를 결합한 조사 에이전트.
• 많은 자료를 이용한 장문 지식 업무.
• 코드 실행·함수 호출이 필요한 여러 단계 작업.

추론·컨텍스트·비용 관리

입력 단가만 비교하지 마세요. 출력, 캐시 읽기·쓰기, 장문 구간, 추론 토큰, 도구, 재시도와 매 대화의 기록 재전송도 포함하세요.

• 긴 에이전트 반복 작업에서는 prompt_cache_key나 Chat Completions 대화 헤더로 같은 캐시를 재사용하기 쉽게 하세요.
• 계속 늘어나는 기록을 반복 전송하지 말고 500K 한도 전에 컨텍스트를 압축·요약하세요.
• 최신 웹·X 정보는 해당 검색 도구가 필요합니다. 기본 모델 자체가 실시간 정보를 제공하지는 않습니다.

최소 요청 보내기

예시는 표의 첫 공식 모델 ID를 사용합니다. API 키의 모델 목록에 다른 ID가 표시되면 그 값을 그대로 복사하세요.

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.6",
    "messages": [{"role": "user", "content": "Explain this request in three bullets."}],
    "stream": false
  }'

제한·호환성 안내

• 공개된 장문 기준에 도달하면 공식 요금이 두 배가 됩니다. 선택한 경로의 과금을 확인하세요.
• 이미지 입력은 지원 형식·크기 제한이 있습니다. 운영 전 전처리를 검증하세요.
• 새 Grok 모델은 로그 확률을 포함한 기존 생성 옵션을 모두 지원하지는 않습니다.

운영 전 평가 목록

• 시험 전에 합격 기준을 정하고 대표 작업 20~50개를 실행하세요.
• 첫 토큰 시간, 전체 지연, 입력·출력 토큰, 도구 재시도와 성공 작업당 비용을 측정하세요.
• 앱에서 쓰는 엔드포인트, 스트리밍, 도구 스키마와 구조화 출력을 시험하세요.
• 400, 401, 404, 429과 일시적 5xx 처리를 확인하고 재시도 횟수를 제한하세요.
• 모델 ID를 설정으로 관리하고 운영 요청을 옮기기 전에 대체 모델을 검증하세요.

모델 목록에서 확인할 내용

모델 목록에서 API 키가 쓸 수 있는 ID, 과금 배율, 이용 가능 여부, 엔드포인트와 호환성을 확인할 수 있습니다. 배포 전 작은 요청으로 검증하세요.

• Grok 4.6 컨텍스트는 500K입니다.
• 작업에 맞게 추론 강도를 설정할 수 있습니다.
• LLMFly AI 그룹이 정확한 모델명을 지원해야 합니다. 미지원 이름은 404를 반환합니다.

조사한 모델의 실제 ID 확인

위 모델 페이지의 공식 ID를 확인한 뒤 모델 목록에서 API 키가 쓸 수 있는 ID를 확인하세요. ID를 설정에 두면 앱을 다시 작성하지 않고 검토·변경할 수 있습니다.