인공지능 데이터센터 경쟁이 GPU 성능을 넘어 전력과 냉각 기술로 확대되고 있다. LG CNS가 네이버클라우드와 함께 삼송 데이터센터에 직접 칩 냉각 방식인 DTC 액체냉각 인프라를 구축하기로 하면서 국내 AI 데이터센터 시장에서도 본격적인 액체냉각 시대가 열리고 있다.
특히 이번 투자는 엔비디아의 차세대 AI 플랫폼 ‘베라 루빈’을 비롯한 고성능 GPU 운영에 대비한다는 점에서 주목된다. AI 반도체의 연산 성능이 높아질수록 칩이 발생시키는 열도 함께 증가하기 때문에 과거 데이터센터에서 사용하던 공랭식 냉각 방식만으로는 고집적 GPU 서버를 효율적으로 운영하기 어려워지고 있기 때문이다.
앞으로 AI 데이터센터의 경쟁력은 GPU를 얼마나 많이 확보했느냐뿐 아니라 전력 공급, 냉각 효율, 서버 집적도, 데이터센터 운영 기술까지 종합적으로 결정할 가능성이 커지고 있다.
LG CNS와 네이버클라우드가 삼송 데이터센터에 액체냉각 구축
LG CNS는 네이버클라우드와 협력해 삼송 데이터센터에 DTC 방식의 액체냉각 시스템을 구축한다.
DTC는 Direct-to-Chip의 약자로 GPU나 CPU와 같은 고발열 반도체 칩에 직접 냉각판인 콜드플레이트를 부착한 뒤 내부에 냉각수를 순환시키는 방식이다.
기존 데이터센터에서는 서버실 내부에 차가운 공기를 공급하고 뜨거워진 공기를 외부로 배출하는 공랭식 방식이 일반적으로 사용됐다.
하지만 DTC 방식에서는 냉각수가 칩에서 발생하는 열을 직접 흡수한다.
구조를 간단히 정리하면 다음과 같다.
- GPU 위에 콜드플레이트를 설치한다.
- 냉각수가 콜드플레이트 내부를 순환한다.
- GPU에서 발생한 열을 냉각수가 직접 흡수한다.
- CDU가 냉각수를 서버와 냉각 시스템 사이에서 순환시킨다.
- 다시 식힌 냉각수가 GPU로 공급된다.
공기를 이용해 서버실 전체를 식히는 방식과 달리 열이 발생하는 지점을 직접 냉각하기 때문에 고밀도 GPU 시스템에서 효율적인 열 관리가 가능하다는 것이 장점이다.
왜 AI 데이터센터에 액체냉각이 필요할까?
AI 데이터센터에서 액체냉각이 중요해진 가장 큰 이유는 GPU의 전력 소비와 발열이 빠르게 증가하고 있기 때문이다.
생성형 AI와 에이전트 AI 모델이 발전하면서 하나의 AI 모델을 학습하거나 추론하는 데 필요한 연산량이 크게 늘었다.
이에 따라 데이터센터에서는 수십개 또는 수백개의 GPU를 하나의 랙에 집적하는 방식이 확대되고 있다.
GPU가 고밀도로 배치되면 발생하는 문제는 크게 세 가지다.
• 서버 한 대당 전력 소비 증가
• 랙 내부 발열 증가
• 냉각에 필요한 전력 증가
특히 냉각 능력이 부족하면 GPU가 스스로 동작 속도를 낮추는 열 스로틀링 현상이 발생할 수 있다.
결국 수억원에서 수십억원 규모의 GPU를 확보하더라도 냉각 시스템이 이를 뒷받침하지 못하면 실제 AI 연산 성능을 제대로 활용하기 어려울 수 있다.
엔비디아 베라 루빈이 액체냉각을 요구하는 이유
이번 LG CNS와 네이버클라우드의 액체냉각 구축이 관심을 끄는 이유는 엔비디아 차세대 AI 플랫폼 베라 루빈과 연결돼 있기 때문이다.
엔비디아는 베라 루빈 NVL72를 차세대 대규모 AI 연산을 위한 랙 단위 시스템으로 개발했다.
엔비디아에 따르면 베라 루빈 NVL72는 연산장치와 네트워크 등을 포함한 시스템 전체에 액체냉각을 적용하도록 설계됐다. 최신 설계에서는 45도의 냉각수를 활용하는 방식도 적용하고 있다.
일반적인 상식으로 생각하면 냉각수는 최대한 차가워야 할 것 같지만 데이터센터에서는 반드시 그렇지는 않다.
냉각수를 지나치게 낮은 온도로 만들기 위해서는 별도의 냉동기와 전력 소비가 필요하기 때문이다.
엔비디아는 베라 루빈 시스템에 최대 45도 수준의 냉각수를 사용할 수 있도록 설계하면서 외부 공기를 활용한 냉각 방식의 적용 범위를 확대하고 데이터센터 냉각에 필요한 에너지를 줄이는 방향을 제시하고 있다.
공랭식 데이터센터의 한계가 나타나고 있다
기존 데이터센터에서는 공랭 방식이 가장 널리 사용됐다.
차가운 공기를 서버실에 공급하고 서버에서 발생한 열을 다시 배출하는 방식이다.
하지만 AI GPU가 고성능화되면서 하나의 랙에서 필요한 전력이 크게 증가하고 있다.
이 경우 서버 주변에 아무리 많은 차가운 공기를 보내더라도 특정 GPU에서 발생하는 열을 빠르게 제거하는 데 한계가 생길 수 있다.
특히 AI 데이터센터에서는 단순한 서버 한 대의 온도보다 랙 전체의 전력 밀도가 중요하다.
하나의 랙에 더 많은 GPU를 설치할수록 같은 면적에서 더 많은 AI 연산을 수행할 수 있지만 동시에 냉각 난도는 급격히 높아지기 때문이다.
이러한 이유로 글로벌 AI 데이터센터 업계에서는 공랭과 액체냉각을 함께 사용하거나 액체냉각 비중을 크게 높이는 방향으로 전환하고 있다.
엔비디아 역시 GPU의 전력 밀도가 일정 수준을 넘어가면 액체냉각이 사실상 필수적인 인프라가 된다고 설명하고 있다.
DTC 액체냉각의 핵심 장점
직접 칩 냉각 방식은 단순히 GPU의 온도를 낮추는 기술만을 의미하지 않는다.
데이터센터 전체의 경제성과도 연결된다.
대표적인 장점은 다음과 같다.
• GPU에서 발생하는 열을 직접 제거
• 고밀도 GPU 서버 운영 가능
• 냉각에 필요한 전력 절감 가능
• 동일한 데이터센터 면적에 더 많은 GPU 배치 가능
• 열 스로틀링 감소를 통한 안정적인 연산 성능 확보
• AI 데이터센터의 전력 효율 개선
특히 AI 데이터센터 사업자에게 중요한 것은 결국 ‘같은 전력으로 얼마나 많은 AI 연산을 수행할 수 있느냐’다.
냉각 장비가 사용하는 전력이 줄어들면 그만큼 더 많은 전력을 GPU 연산에 사용할 수 있다.
실제로 엔비디아는 베라 루빈과 AI 팩토리 인프라에서 전력과 냉각을 통합적으로 관리하면 동일한 전력 예산 안에서 더 많은 GPU를 운영할 수 있다고 설명하고 있다. 일부 설계에서는 기존 대비 최대 40% 더 많은 GPU 용량을 확보할 수 있다는 목표도 제시한다.
삼송 데이터센터는 80MW 규모 AI 거점으로 구축
LG CNS는 삼송 데이터센터를 국내 대규모 AI 인프라 거점으로 구축할 계획이다.
삼송 데이터센터의 총 수전용량은 약 80MW 규모다.
데이터센터에서 MW는 단순히 건물 크기보다 중요한 지표다.
AI 서버는 막대한 전력을 소비하기 때문에 얼마나 많은 전력을 안정적으로 공급받을 수 있는지가 데이터센터의 GPU 수용 능력을 결정하기 때문이다.
LG CNS는 삼송 데이터센터에서 다음과 같은 영역을 통합적으로 구축할 계획이다.
• DTC 액체냉각 시스템
• GPU 서버 운영 환경
• 대규모 전력 공급 시스템
• AI 플랫폼 운영 기반
• 데이터센터 설계와 구축
• 데이터센터 운영
즉 건물과 서버실을 제공하는 단순 데이터센터가 아니라 AI 학습과 추론에 최적화된 이른바 ‘AI 팩토리’ 형태를 목표로 하는 것이다.
LG그룹 계열사까지 AI 데이터센터 사업에 참여한다
이번 사업에서 주목해야 할 또 하나의 부분은 LG그룹 계열사들의 협업이다.
LG CNS가 전체 데이터센터 설계와 구축, 운영을 담당하면서 LG그룹 계열사의 데이터센터 관련 기술과 제품을 적용하는 구조다.
대표적으로 삼송 데이터센터에는 LG전자의 냉각 관련 장비와 LG에너지솔루션의 배터리 기술 등이 적용될 예정이다.
AI 데이터센터에서는 GPU만 중요한 것이 아니다.
실제로 필요한 인프라는 상당히 복잡하다.
- GPU 및 서버
- 전력 공급 장비
- UPS와 에너지저장장치
- 냉각 시스템
- 네트워크
- 데이터센터 운영 소프트웨어
- AI 플랫폼
따라서 AI 데이터센터 시장이 확대되면 반도체뿐 아니라 냉각, 배터리, 전력기기, 데이터센터 건설과 운영시장까지 함께 성장할 가능성이 있다.
네이버클라우드는 GPU와 AI 플랫폼 운영 담당
네이버클라우드는 국내에서 대규모 AI 인프라와 클라우드 서비스를 운영하고 있는 기업이다.
이번 협력에서는 네이버클라우드가 보유한 GPU 운영 경험과 AI 플랫폼 기술이 중요한 역할을 할 것으로 보인다.
LG CNS가 데이터센터 설계·구축·운영 인프라를 담당한다면 네이버클라우드는 실제 GPU와 AI 서비스를 운영하면서 액체냉각 시스템이 안정적으로 작동하는지를 검증하는 역할을 수행할 수 있다.
양사는 2027년까지 액체냉각 인프라 구축과 실증을 완료할 예정이다.
따라서 삼송 데이터센터에서 진행되는 실증은 향후 국내 다른 AI 데이터센터에 DTC 액체냉각 기술을 확대하는 중요한 사례가 될 가능성이 있다.
AI 데이터센터 시장의 핵심이 전력과 냉각으로 이동한다
최근 AI 산업에서는 엔비디아 GPU와 HBM 반도체가 가장 큰 관심을 받았다.
하지만 GPU의 성능이 계속 높아지면서 새로운 병목현상이 나타나고 있다.
바로 전력과 냉각이다.
아무리 많은 GPU를 확보해도 데이터센터에 충분한 전력이 공급되지 않으면 실제 사용할 수 없다.
마찬가지로 전력이 충분하더라도 GPU에서 발생하는 열을 제대로 제거하지 못하면 안정적으로 운영할 수 없다.
따라서 앞으로 AI 데이터센터 투자에서는 다음 분야가 중요해질 가능성이 높다.
• 전력 인프라
• 변압기와 전력기기
• 액체냉각
• CDU
• 냉동기
• UPS
• ESS
• 데이터센터 설계·구축·운영
• AI 서버와 네트워크
AI 반도체 투자시장에서 GPU와 HBM만 보는 것보다 이른바 AI 인프라 밸류체인 전체를 살펴봐야 하는 이유다.
베라 루빈 이후 액체냉각 시장은 더 커질까?
액체냉각 시장의 성장 가능성은 상당히 높게 평가되고 있다.
엔비디아의 베라 루빈 플랫폼 자체가 액체냉각을 핵심 인프라로 설계하고 있기 때문이다.
베라 루빈 NVL72는 대규모 에이전트 AI와 초대형 모델을 처리하기 위해 GPU뿐 아니라 CPU, 네트워크, 전력, 냉각 시스템을 하나의 랙 단위로 설계하는 방향을 채택했다.
이는 앞으로 데이터센터 건설 방식 자체가 변화할 수 있다는 의미다.
과거에는 데이터센터 건물을 먼저 건설한 뒤 서버를 설치하는 방식이 일반적이었다.
하지만 고성능 AI 데이터센터에서는 어떤 GPU 시스템을 설치할지 결정한 이후 필요한 전력과 냉각 방식까지 함께 설계해야 하는 상황이 되고 있다.
엔비디아 역시 AI 팩토리는 칩, 랙, 네트워크, 전력, 냉각, 전력망을 처음부터 통합적으로 설계해야 한다는 방향을 제시하고 있다.
액체냉각이 AI 데이터센터의 새로운 투자 테마가 되는 이유
AI 산업이 성장할수록 GPU 수요가 증가하고, GPU가 늘어날수록 전력과 열 문제가 커진다.
따라서 AI 데이터센터 냉각산업은 GPU 투자 증가와 함께 성장할 가능성이 있다.
특히 주목할 분야는 다음과 같다.
- 직접 칩 냉각 DTC
- 냉각수 분배장치 CDU
- 데이터센터용 냉동기
- 고효율 열교환 시스템
- 서버 랙 냉각기술
- 전력관리 시스템
- 데이터센터 설계·구축·운영 사업
LG CNS가 네이버클라우드와 액체냉각 기술을 실증하는 것도 이러한 시장 변화에 선제적으로 대응하기 위한 전략으로 볼 수 있다.
앞으로 확인해야 할 핵심 포인트
LG CNS와 네이버클라우드의 액체냉각 프로젝트를 볼 때는 단순히 ‘데이터센터에 물로 냉각하는 기술을 설치한다’는 수준으로 볼 필요는 없다.
향후 확인해야 할 핵심 요소는 다음과 같다.
첫째, 삼송 데이터센터에 실제로 어느 수준의 고성능 GPU가 도입되는지 확인할 필요가 있다.
둘째, 2027년까지 진행될 DTC 액체냉각 실증에서 전력 절감과 냉각 효율이 어느 정도 나타나는지가 중요하다.
셋째, 엔비디아 베라 루빈 등 차세대 GPU 도입이 본격화되면서 액체냉각 적용 데이터센터가 얼마나 빠르게 늘어나는지도 살펴봐야 한다.
넷째, LG CNS가 삼송 데이터센터에서 확보한 경험을 국내외 다른 AI 데이터센터 사업으로 확대할 수 있는지가 중요하다.
다섯째, LG전자와 LG에너지솔루션 등 LG그룹 계열사의 데이터센터 관련 사업이 얼마나 확대되는지도 새로운 관전 포인트다.
AI 시대에는 GPU보다 데이터센터가 더 중요해질 수도 있다
AI 산업 초기에는 누가 더 좋은 GPU와 HBM을 확보했느냐가 핵심 경쟁력이었다.
하지만 AI 모델이 커지고 GPU 수가 급격히 증가하면서 이제는 GPU를 안정적으로 운영할 수 있는 데이터센터 인프라가 새로운 경쟁력으로 떠오르고 있다.
전력 공급이 부족하거나 냉각 능력이 부족하면 최첨단 GPU를 확보하고도 제대로 활용할 수 없기 때문이다.
LG CNS와 네이버클라우드가 삼송 데이터센터에 DTC 액체냉각 인프라를 구축하는 것은 이러한 변화의 대표적인 사례다.
특히 엔비디아 베라 루빈처럼 고집적 AI 시스템이 본격적으로 확대되면 액체냉각은 일부 고성능 데이터센터에만 적용되는 특수 기술이 아니라 AI 데이터센터의 핵심 표준으로 자리 잡을 가능성도 있다.
앞으로 AI 산업을 볼 때는 엔비디아 GPU, 삼성전자와 SK하이닉스의 HBM뿐 아니라 전력기기, 액체냉각, 데이터센터 운영, 배터리와 에너지저장장치까지 함께 살펴볼 필요가 있다.
AI 시대의 진짜 경쟁은 반도체 한 개의 성능을 높이는 것에서 끝나는 것이 아니라 수만개의 고성능 GPU를 얼마나 안정적이고 경제적으로 운영할 수 있느냐로 빠르게 이동하고 있기 때문이다.
