OpenAI GPT 모델

모델군에서 적합한 모델 선택

작업을 처리할 만한 가장 작은 모델로 시작하고 더 강한 후보 하나와 같은 작업을 비교하세요. 채택 결과의 품질, 지연, 안정성과 총비용으로 고르세요.

• 가장 어려운 추론, 소프트웨어 개발, 조사, 브라우저·전문 소프트웨어 작업을 전체적으로 처리하려면 Astra를 고르세요.
• Astra의 높은 토큰 단가를 정당화하기 어려운 복잡한 전문 업무는 Sol을 고르세요.
• 품질·비용의 균형은 Terra, 검증된 대량 처리는 Luna를 고르세요.

입력·출력·컨텍스트·도구

• GPT-6 Astra와 GPT-5.6 모델군은 텍스트·이미지를 입력받고 텍스트를 출력합니다.
• 네 모델 모두 컨텍스트 1.05M, 최대 출력 128K로 공개됐습니다.
• Astra는 비동기 도구 호출, 응답 중 지시 변경과 설정 갱신을 지원합니다. 모델 페이지의 Responses API 도구도 사용할 수 있습니다.
• Astra 추론은 low~max이며 GPT-5.6는 none도 지원합니다.

이 모델군에 적합한 작업

먼저 시험할 후보입니다. 모든 작업에 맞는 것은 아니니 실제 프롬프트, 도구와 합격 기준으로 검증하세요.

• 저장소 전체 코딩과 코드 리뷰.
• 긴 문서 정리. 인용은 앱에서 검증하세요.
• 구조화 호출과 오류 복구가 필요한 도구형 에이전트.
• Terra·Luna를 이용한 대량 변환·추출.

추론·컨텍스트·비용 관리

입력 단가만 비교하지 마세요. 출력, 캐시 읽기·쓰기, 장문 구간, 추론 토큰, 도구, 재시도와 매 대화의 기록 재전송도 포함하세요.

• 추론은 medium으로 시작하고 평가에서 품질 향상이 확인될 때만 높이세요.
• 컨텍스트가 커도 반복되는 대화 기록은 줄이세요.
• 완료된 작업 단위로 지연, 입력, 출력, 도구 호출과 재시도를 기록하세요.

최소 요청 보내기

예시는 표의 첫 공식 모델 ID를 사용합니다. API 키의 모델 목록에 다른 ID가 표시되면 그 값을 그대로 복사하세요.

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-astra",
    "messages": [{"role": "user", "content": "Explain this request in three bullets."}],
    "stream": false
  }'

제한·호환성 안내

• LLMFly AI는 GPT-6 Astra API 사용을 완전히 지원합니다. GPT 모델별 해당 경로 문서의 엔드포인트와 도구로 설정하세요.
• 큰 컨텍스트는 지연과 비용을 늘릴 수 있습니다. 검색과 필요한 정보 선별도 해야 합니다.
• 모델 ID는 설정으로 관리하고 운영 전 대체 모델을 시험하세요.

운영 전 평가 목록

• 시험 전에 합격 기준을 정하고 대표 작업 20~50개를 실행하세요.
• 첫 토큰 시간, 전체 지연, 입력·출력 토큰, 도구 재시도와 성공 작업당 비용을 측정하세요.
• 앱에서 쓰는 엔드포인트, 스트리밍, 도구 스키마와 구조화 출력을 시험하세요.
• 400, 401, 404, 429과 일시적 5xx 처리를 확인하고 재시도 횟수를 제한하세요.
• 모델 ID를 설정으로 관리하고 운영 요청을 옮기기 전에 대체 모델을 검증하세요.

모델 목록에서 확인할 내용

모델 목록에서 API 키가 쓸 수 있는 ID, 과금 배율, 이용 가능 여부, 엔드포인트와 호환성을 확인할 수 있습니다. 배포 전 작은 요청으로 검증하세요.

• GPT-6 Astra와 GPT-5.6 모델은 텍스트·이미지를 입력받고 텍스트를 반환합니다.
• Astra는 low~max의 5단계를 지원하며 GPT-5.6 모델은 none도 지원합니다.
• OpenAI는 Astra의 함수 호출, 구조화 출력, 웹·파일 검색, 컴퓨터 조작과 추가 Responses API 도구를 공개했습니다.

조사한 모델의 실제 ID 확인

위 모델 페이지의 공식 ID를 확인한 뒤 모델 목록에서 API 키가 쓸 수 있는 ID를 확인하세요. ID를 설정에 두면 앱을 다시 작성하지 않고 검토·변경할 수 있습니다.