자율 에이전트의 등장과 전력 소비 패러다임의 급변
최근 생성형 인공지능 기술의 중심축은 단순 챗봇 질의응답에서 목표를 스스로 세우고 다단계 작업을 자율 수행하는 AI 에이전트(Agent)로 급격히 전환되고 있습니다. 사용자가 단일 질문을 입력하더라도 에이전트 시스템은 자체적으로 수십, 수백 개의 하위 프롬프트를 생성하고 여러 에이전트 간 협업을 거쳐 웹사이트 개발, 데이터 분석 등 복잡한 워크플로를 수행합니다.
"사용자가 AI 에이전트에게 웹사이트를 제작해달라고 요청하면, 서로 다른 웹페이지와 메뉴, 데이터 세트를 구성하기 위해 수십 번의 재프롬프팅을 반복하며 수 시간 동안 가동될 수 있습니다." — 맥스웰 제프(Maxwell Zeff)
실제로 OpenAI는 10,000개 이상의 에이전트 군집이 270만 개의 메시지를 주고받으며 오랜 수학 난제를 해결했다고 밝혔습니다. 이러한 에이전트 기반 연산은 인간 사용자의 사용 시간에 구속되지 않고 백그라운드에서 상시 구동되기 때문에, 기존 단일 쿼리 대비 비교할 수 없을 정도로 막대한 전력을 소모합니다. 기후학자 지크 하우스파더(Zeke Hausfather)의 분석에 따르면 일상적인 에이전트 중심 Claude 세션은 냉장고 2대를 상시 가동하는 것 이상의 에너지를 소모하며, 메타(Meta)가 공개한 전용 클라우드 컴퓨터 기반 개인 에이전트 '뮤즈(Muse)'처럼 수십억 명을 대상으로 하는 에이전트 보급은 전력망에 전례 없는 부하를 가중시키고 있습니다.
- 사용자 목표 입력
- 하위 프롬프트 자동 분할
- 다중 에이전트 병렬 추론
- 결과물 종합 및 배포
전력망 증설 한계와 AI 팩토리의 물리적 제약
AI 기업들은 대규모 부채를 조달해 발전소급 데이터센터를 건설하고 있으나, 신규 송전선로를 증설하는 데는 수년에서 10년 이상의 기간이 소요됩니다. 소형 모듈 원자로(SMR) 역시 미국 내 상용 운전 사례가 전무하여 메타의 하이페리온(Hyperion) 프로젝트처럼 천연가스 터빈에 의존하는 등 물리적 전력 수급의 병목이 심화되고 있습니다.
엔비디아의 창업자이자 CEO인 젠슨 황은 "1기가와트(GW) 공장이 저절로 2기가와트 공장이 될 수는 없다"고 지적하며, 개별 부품 단위의 미시적 최적화를 넘어 데이터센터 전체를 하나의 컴퓨팅 시스템으로 설계하는 전체 공장(Whole Factory) 최적화 관점으로 전환해야 한다고 강조했습니다.
엔비디아 DSX: 소프트웨어 기반 동적 전력 재할당
AI 인프라 서밋(AI Infra Summit)에서 엔비디아 하이퍼스케일 및 HPC 부문 부사장 이안 벅(Ian Buck)은 AI 팩토리의 핵심 척도로 '기가와트당 작업량(Work per gigawatt)'을 제시하며 NVIDIA DSX(Data Center Scalable Systems) 아키텍처를 공개했습니다. DSX는 네트워크, 냉각, 수자원 효율, 설비 설계를 포괄하는 풀스택 솔루션입니다.
이 중 DSX MaxLPS는 GPU 및 랙 수준의 전력 소비를 실시간 모니터링하여 유휴 헤드룸을 능동적으로 재배치합니다. 정적 전력 프로비저닝 환경에서는 훈련과 추론 워크로드의 전력 소모 패턴 차이로 인해 낭비되는 '좌초 용량(Stranded Capacity)'이 발생하는데, MaxLPS는 이를 회수하여 실질 연산 용량으로 전환합니다.
| 구분 | 기존 정적 전력 관리 | DSX MaxLPS 적용 (Lambda 검증) |
|---|---|---|
| 노드 구성 | 16 노드 (풀 파워) | 19 노드 (동일 전력 예산 내) |
| 초당 토큰 처리량 | 약 400만 토큰/초 | 약 500만 토큰/초 (24% 증가) |
| 전력 대 성능비 | 기준치 (100%) | 와트당 성능 23% 개선 |
| 차세대 확장 전망 | 기준치 | 베라 루빈 NVL72 환경에서 최대 40% GPU 용량 확장 |
클라우드 서비스 제공업체 람다(Lambda)의 사장 데이브 워드(Dave Ward)는 "DSX MaxLPS를 통해 고정 전력 예산의 한계를 넘어 동일 면적에서 훨씬 높은 연산 밀도를 확보할 수 있게 되었다"고 설명했습니다.
그리드 오케스트레이션: 실리콘밸리 파워와 DSX Flex의 실증
물리적 전력망과의 연동 측면에서는 AI 팩토리를 유연한 부하 자원으로 활용하는 동적 수요 반응(Demand Response) 체계가 도입되었습니다. 캘리포니아 새너제이의 실리콘밸리 파워(Silicon Valley Power) 관할 구역에 위치한 엔비디아 이오스(Eos) AI 팩토리는 에머랄드 AI(Emerald AI)의 '컨덕터(Conductor)' 플랫폼을 통해 전력 유연성 검증을 마쳤습니다.
- 자동 전력 감축: 전력망 부하 신호 수신 즉시 사전 정의된 워크로드 우선순위에 따라 지연 가능한 작업 속도를 늦추고 고우선순위 추론 작업을 유지하여, 전력 소비를 4메가와트(MW)에서 3메가와트(MW)로 무인 자동 감축했습니다.
- 응답 시간 및 안정성: 전력 신호 인입 후 1분 미만에 전력 조절이 실행되었으며, 200회 이상의 수요 감축 신호에 대해 100% 정상 작동을 기록했습니다.
- 상용 배포 계획: 에머랄드 AI 컨덕터 기술은 향후 DSX Flex로 통합될 예정이며, 첫 전용 상용 배포는 미국 버지니아주 매너서스에 위치한 엔비디아 AI 팩토리 연구 센터의 96메가와트(MW) 규모 베라 루빈 AI 팩토리에서 진행됩니다.
800V DC 전원 아키텍처 도입과 전력 밀도 혁신
AI 팩토리가 대형화됨에 따라 기존 저전압 배전 방식은 변환 손실과 물리적 분배 한계를 노출하고 있습니다. GB200 NVL72 랙의 경우 직접 액체 냉각(Direct Liquid Cooling) 방식으로 약 120kW에 달하는 열을 처리해야 합니다. 엔비디아는 전력 변환 복잡성을 줄이고 배전 효율을 극대화하기 위해 레퍼런스 디자인에 800V 직류(DC) 전원 아키텍처를 공식 통합하여, 차세대 고밀도 가속 컴퓨팅 랙의 안정적 전력 공급 기반을 마련하고 있습니다.