AI 서버 랙당 30kW 공랭 분산 vs 120kW 수랭 집적 비교: 총시설전력(PUE)·상면·광배선 3년 TCO 계산법
동일한 480 kW IT 부하의 AI 클러스터라도 30 kW 공랭 16랙 분산과 120 kW 수랭(DLC) 4랙 집적은 3년 총비용(TCO)이 크게 다릅니다. 초기 CDU 설비비만 보지 말고 PUE에 따른 총시설전력(Gross kW) 차이와 랙 간 광배선비·상면료를 함께 비교해야 합니다.
적용 범위 및 기준일: 2026년 11월 18일(KST) 기준 미국 에너지부(DOE)·로렌스버클리국립연구소(LBNL) 데이터센터 에너지 효율 가이드와 ASHRAE 수랭식 열관리 분류 기준을 바탕으로 정리했습니다. 4절의 480 kW 클러스터 비교 수치는 오프라인 어설션(15개 통과)으로 검증한 조건부 시뮬레이션 예시이며, 실제 콜로케이션 계약 단가와 설비 견적에 따라 결과는 달라집니다.
핵심 용어 정의 및 비교 순서
1. 왜 랙 전력 밀도(30 kW vs 120 kW)가 상면과 네트워크 구조를 바꿀까
서버 한 대의 소비전력이 10~15 kW를 넘어서면서, 기존 공랭식 데이터센터(랙당 공급 상한 15~30 kW)에 고성능 AI 서버를 수용하려면 한 랙에 서버를 2~3대만 넣고 빈 슬롯을 비워두는 희소 배치(Stranded Space)를 선택해야 합니다. 반면 칩 직접 수랭(Direct-to-Chip Liquid Cooling, DLC)과 냉각수 분배 장치(CDU)를 갖춘 고밀도 랙은 한 랙에서 100~140 kW 이상의 IT 열부하를 처리할 수 있어 필요한 랙 수를 4분의 1로 줄입니다.
| 비교 항목 | 공랭식 분산 배치 (랙당 30 kW) | 수랭식 집적 배치 (랙당 120 kW) |
|---|---|---|
| 1. 소요 랙 상면 수 | 16개 랙 (전력 한도로 인해 랙 내부 U 공간 일부를 비워둠) | 4개 랙 (동일 480 kW IT 부하를 4개 캐비닛에 고밀도 집적) |
| 2. 주요 냉각 경로 | 항온항습기(CRAH/CRAC) 및 서버 내부 고회전 팬 중심 | 콜드플레이트(DLC) + 랙 매니폴드 + CDU + 잔여 열량 공랭 보조 |
| 3. 랙 간 배선 거리 | 16개 랙 간 거리가 길어져 광트랜시버·AOC 케이블 비중 증가 | 인접 4개 랙 및 랙 내부 무동력 구리선(DAC)·백플레인 활용 유리 |
2. IT 전력(480 kW)은 같아도 총시설전력(Gross kW)이 120 kW 차이 나는 이유
DOE·LBNL 데이터센터 에너지 효율 가이드에서 정의하듯 데이터센터가 한전 수전 설비로부터 끌어쓰는 총시설전력은 IT 부하(kW) × PUE입니다. 콜로케이션 계약에서 전력 요금을 'IT 계량기 사용량 × 계약 PUE 계수'로 정산하거나 자체 전산실을 운영하는 경우, PUE 차이는 곧바로 매월 전력 청구서 차이로 이어집니다.
480 kW IT 부하 기준 총시설전력 비교:
• 공랭식(설계 PUE 1.40 가정): 480 kW × 1.40 = 672 kW (비IT 냉각·전력 오버헤드 192 kW)
• 수랭식(설계 PUE 1.15 가정): 480 kW × 1.15 = 552 kW (비IT 냉각·전력 오버헤드 72 kW)
→ 동일한 서버를 가동하더라도 시설 오버헤드 전력이 120 kW(연간 최대 1,051,200 kWh) 절감됩니다.
3. CDU 설비비 vs 랙 간 광트랜시버 배선비의 상충 관계
수랭식 도입을 망설이게 하는 가장 큰 요인은 CDU(냉각수 분배 장치), 랙 매니폴드, 누수 감지 및 배관 공사 등 초기 설비 투자비(CapEx)입니다. 하지만 공랭식 분산 배치에서는 눈에 잘 띄지 않는 두 가지 숨은 비용이 발생합니다.
- 광트랜시버(Optical Transceiver) 및 AOC 추가 비용: 한 랙 안에서 구리선(DAC)으로 연결할 수 있던 GPU 노드들이 16개 랙으로 흩어지면, 랙 간 스위치 연결을 위해 고가의 400G/800G 광모듈과 광케이블을 대량 구매해야 하며 광모듈 자체의 추가 전력 소모도 늘어납니다.
- 랙 단위 기본 상면료 누적: 콜로케이션 계약이 '랙당 월 기본 상면료 + 전력 정산' 구조일 경우 16개 랙을 임차하는 비용이 4개 고밀도 랙 임차료보다 커질 수 있습니다.
4. 정량 계산 예시: 480 kW AI 클러스터의 3년 TCO 비교표
연속 가동(100% 부하 환산) 및 전력 단가 160원/kWh, 3년(36개월) 운영을 가정한 조건부 비용 비교 예시는 다음과 같습니다.
| 비용·전력 항목 | 공랭 30 kW × 16랙 (PUE 1.40) | 수랭 120 kW × 4랙 (PUE 1.15) |
|---|---|---|
| 총시설전력 (비IT 오버헤드) | 672 kW (192 kW) | 552 kW (72 kW, 120 kW 절감) |
| 초기 CDU·수랭 설비비 (CapEx) | 0.0 | 220.0 |
| 랙 간 패브릭·광배선 설비비 | 180.0 (16랙 장거리 광모듈) | 40.0 (4랙 단거리 배선, 140.0 절감) |
| 3년 랙 기본 상면료 합계 | 691.2 (월 1.2 × 16랙 × 36개월) | 360.0 (월 2.5 × 4랙 × 36개월) |
| 3년 비IT 냉각·설비 전력요금 | 807.322 (192 kW 오버헤드) | 302.746 (72 kW 오버헤드, 504.576 절감) |
위 시나리오에서 수랭식은 초기 CDU 설비비(2.2억 원)가 추가되지만, 랙 집적을 통한 광배선 절감(1.4억 원)으로 초기 순증가폭이 0.8억 원(80.0백만 원)으로 줄어듭니다. 여기에 3년간의 비IT 오버헤드 전력 절감액(5.05억 원)과 상면료 차이(3.31억 원)를 합산하면 3년 누적 기준 약 7.56억 원(755.776백만 원)의 총비용 우위가 발생합니다. 반대로 평균 가동률이 낮거나 이미 유휴 공랭 상면을 보유한 경우에는 초기 CDU 투자 회수 기간이 길어지므로 자사 가동률과 계약 PUE를 대입해 손익분기점을 계산해야 합니다.
5. 고밀도 AI 랙 도입 및 콜로케이션 계약 전 실무 점검표
- 과금 기준 PUE 확인: 콜로케이션 전력료가 실제 수랭 홀 PUE(1.15~1.20)를 반영하는지, 아니면 센터 전체 평균 PUE(1.35+)로 일괄 부과되는지 계약서를 먼저 확인합니다.
- 랙 간 스위치·케이블 BOM 통합 견적: 서버 견적과 별도로 랙 분산 시 추가되는 광트랜시버·AOC 케이블 수량을 합산해 비교합니다.
- 바닥 하중 및 CDU 이중화(N+1) 범위 확인: 120 kW 수랭 랙은 캐비닛 중량이 1.5~2.5톤에 달하므로 슬래브 하중과 CDU 펌프 이중화 책임 분기점을 명시해야 합니다.
부록: 검증 환경 및 관련 Deoks 한국어 분석 글
본문의 480 kW 클러스터 전력·상면·배선 비용 수식은 Windows 11 환경의 Node.js v24.14.1에서 오프라인 어설션(calculations.json, 15개 통과)으로 검증했습니다. 데이터센터 PUE·WUE 검증과 AI 네트워크·서버 TCO 비교는 아래 글에서 이어서 확인하실 수 있습니다.
- PUE·WUE 계산하기: Python CSV로 단위·기간·결측값 검증하기
- AI 네트워크 Ethernet vs InfiniBand, 포트 속도만으로 고르면 안 되는 이유
- 클라우드 API vs 로컬 GPU 서버, AI 추론 비용은 언제 역전될까? 손익분기점과 3가지 인프라 변수
공식 1차 근거 및 참고 출처
- U.S. Department of Energy (DOE) / LBNL — Best Practices Guide for Energy-Efficient Data Center Design (PUE and Liquid Cooling Efficiency)
- ASHRAE TC 9.9 — Thermal Guidelines for Liquid Cooled Data Processing Environments
- Open Compute Project (OCP) — Cooling Environments & Cold Plate / CDU Reference Specifications
댓글
댓글 쓰기
안녕하세요 :)