홍라이프 계산기계산 방법
피크 수요(토큰/초) = 하루 요청 수 × 가장 바쁜 시간 비중 × 출력 토큰 ÷ 3,600입니다. 서버 수 = ⌈피크 ÷ (서버당 처리량 × 목표 가동률)⌉ + 예비 서버예요. 100%보다 낮게 돌리면 갑작스러운 몰림에 대비할 여유가 생기고 지연 시간이 안정됩니다. 출력 토큰 100만 개당 비용 = 월 서버 비용 ÷ 월 출력 토큰(30일)이에요. 처리량은 모델, 하드웨어, 배치 크기, 프롬프트 길이에 크게 좌우되니 직접 부하 테스트로 재세요.
⚠ 참고용 추정치이며 투자·재무 조언이 아닙니다.
자주 묻는 질문
왜 하루 평균이 아니라 가장 바쁜 시간을 기준으로 하나요?
사용자는 고르게 오지 않아요. 평균에 맞추면 바쁜 시간에 답변이 느려지거나 실패합니다. 트래픽 로그에서 가장 바쁜 시간의 비중을 확인하세요.
입력 토큰은요?
긴 프롬프트도 GPU 시간을 써요(프리필 단계). 실제와 비슷한 프롬프트 길이로 부하 테스트를 하면 측정한 초당 토큰 수에 그 비용이 이미 들어갑니다.
2026년 11월 10일 확인. 용량 계획 산식: 피크 수요 ÷ 서버당 사용 가능 처리량을 올림하고 N+1 방식의 예비 용량을 더합니다(Google, Site Reliability Engineering, O’Reilly 2016의 용량 계획·부하 분산 장 참고).