운영 활용 예시

코드 생성용 LLM API

예: 기존 보고서 페이지에 CSV 내보내기를 추가하는 작은 기능 요청입니다. 공개 API는 바꾸지 않습니다. 모델에 요청 내용, 저장소 규칙, 관련 파일과 테스트 명령을 전달합니다. 변경 diff와 기능 동작을 검증하는 테스트를 반환합니다.

기능 요구를 테스트·검토 가능한 코드 수정으로 변환
코드 생성용 LLM API

운영 구현 예시

API·기본 모델·대체 설정

운영 모델 선택추천이유
APIPOST /v1/chat/completionsOpenAI 호환 서버 요청
기본 모델gpt-5.6-terra저장소 추론과 사용 가능한 수정이 필요해 Terra를 기본으로 씁니다. 모든 요청에 Sol 수준의 추론이 필요한 것은 아닙니다.
대체 모델gpt-5.5작고 독립된 수정은 같은 테스트를 통과한 뒤에만 gpt-5.5를 쓰세요. 설계 경계를 넘거나 Terra가 같은 테스트에 두 번 실패하면 Sol로 전환하세요.
고난도 작업용 상위 모델gpt-5.6-sol기본 경로가 정한 품질·복잡도 기준을 못 맞출 때만 사용
출력 규칙작업에 맞는 텍스트·수정충돌 없이 적용되는 diff와 모든 합격 기준을 다루는 테스트.
01
사용 상황

운영 앱의 코드 생성

예: 기존 보고서 페이지에 CSV 내보내기를 추가하는 작은 기능 요청입니다. 공개 API는 바꾸지 않습니다. 모델에 요청 내용, 저장소 규칙, 관련 파일과 테스트 명령을 전달합니다. 변경 diff와 기능 동작을 검증하는 테스트를 반환합니다.

LLMFly AI는 생성만 담당합니다. 앱이 임시 작업 사본에서 수정을 확인하고 lint·테스트를 실행합니다. 실패 내용은 새 메시지로 반환합니다. 첫 응답을 그대로 병합하지 않습니다.

02
구조

코드 생성 처리 흐름

  • 요청·규칙·관련 파일·테스트 명령 조회.
  • 변경 diff와 새·수정 테스트 요청.
  • 임시 작업 사본에만 수정 적용.
  • 결정적인 검증을 실행하고 실패는 제한된 한 번의 수정에 전달하세요.
  • 통과한 수정을 사람에게 검토 요청.
03
API 요청

LLMFly AI로 gpt-5.6-terra 호출

서버에서 요청하세요. 예시 내용과 임시 도구 스키마를 앱의 데이터·도구로 바꾸세요.

request.example
curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-terra",
    "messages": [
      {"role": "system", "content": "You are editing an existing repository. Return only a unified diff. Preserve public APIs, follow the supplied conventions, and include tests for every acceptance criterion."},
      {"role": "user", "content": "Add CSV export to the report page. Files and acceptance criteria follow below."}
    ]
  }'
04
모델 선택

gpt-5.6-terra를 기본 모델로 고른 이유

저장소 추론과 사용 가능한 수정이 필요해 Terra를 기본으로 씁니다. 모든 요청에 Sol 수준의 추론이 필요한 것은 아닙니다.

작고 독립된 수정은 같은 테스트를 통과한 뒤에만 gpt-5.5를 쓰세요. 설계 경계를 넘거나 Terra가 같은 테스트에 두 번 실패하면 Sol로 전환하세요.

05
합격 기준

코드 생성 합격 기준

지표합격 조건
빌드·테스트 통과율수정이 빌드되고 모든 관련 테스트가 격리 환경에서 통과
요구사항 충족모든 합격 기준에 변경 파일이나 테스트가 연결됨
불필요한 파일 변경정당한 이유 없이 무관한 파일·의존성·공개 인터페이스를 바꾸지 않음
채택 수정당 비용생성·재시도·테스트·리뷰가 팀의 변경당 예산 이내
06
실패 처리

배포 전 처리할 오류

  • 간단한 예시만 시험
  • 컴파일되지만 요구사항을 놓친 코드 채택
  • 후보마다 다른 컨텍스트 제공
  • 리뷰·수정 비용 무시
07
출력

출력·실행 기록

충돌 없이 적용되는 diff와 모든 합격 기준을 다루는 테스트.

운영 실행마다 모델 ID, 요청 ID, 토큰 사용량, 재시도, 검증 결과와 최종 처리를 기록하세요.

자주 묻는 질문

코드 생성 평가에는 무엇을 넣나요?

내 저장소 작업을 쓰고 요구사항, 테스트 명령과 리뷰 기준을 고정하세요.

생성 코드를 자동 병합하나요?

아직 검증되지 않은 수정으로 다루세요. 격리 환경에서 빌드·테스트한 뒤 위험에 맞는 검토를 하세요.

코딩 API는 토큰 단가만 비교하면 되나요?

아니요. 재시도·테스트·리뷰·수정 후 채택된 변경당 비용을 비교하세요.

내 입력으로 구성 시험

같은 요청, 도구와 검증 규칙으로 기본·대체 모델을 비교하세요.

모델 비교하기