AI 데이터센터 이야기를 하면 그동안 가장 먼저 거론된 문제는 전력이었습니다.
고성능 GPU와 AI 가속기가 대규모로 들어가면서 데이터센터가 필요로 하는 전력이 빠르게 늘고 있기 때문입니다.
하지만 전력을 충분히 확보한다고 문제가 모두 해결되는 것은 아닙니다.
GPU가 소비하는 전력이 많아질수록 발생하는 열도 증가합니다. 이 열을 제대로 제거하지 못하면 아무리 비싼 GPU를 많이 확보해도 고성능 AI 서버를 안정적으로 운영하기 어렵습니다.
그래서 최근 AI 데이터센터에서 전력과 함께 중요해지는 인프라가 바로 액체냉각(Liquid Cooling)입니다.
특히 AI 서버의 랙당 전력 밀도가 높아지면서 기존 공랭 방식만으로 대응하기 어려운 영역이 커지고 있고, GPU와 CPU 가까이에서 열을 제거하는 액체냉각과 냉각수를 관리하는 CDU(Coolant Distribution Unit)가 함께 주목받고 있습니다.
엔비디아가 AI 팩토리용 전력·냉각 제품을 대상으로 DSX Ready 프로그램을 발표하고 CDU를 초기 대상 분야에 포함한 것도 이런 흐름과 연결됩니다.
그렇다면 AI 데이터센터에는 왜 액체냉각이 필요하고, CDU는 정확히 어떤 역할을 하는 장비일까요?
AI 데이터센터는 왜 액체냉각이 중요할까?
GPU 성능이 높아질수록 발열 문제도 커진다
AI 서버의 고밀도화는 데이터센터 냉각 방식이 달라지는 가장 중요한 이유 가운데 하나입니다.
AI 서버에는 일반적인 서버보다 높은 연산 성능을 제공하는 GPU와 AI 가속기가 대량으로 들어갑니다.
문제는 하나의 서버 랙에 더 많은 고성능 장비가 들어갈수록 전력 소비와 함께 제거해야 할 열도 증가한다는 것입니다.
LG CNS가 2026년 공개한 삼송 데이터센터 관련 자료에 따르면 기존 공랭 방식이 일반적으로 대응할 수 있는 냉각 용량은 랙당 약 20~30kW 수준인 반면, 고성능 GPU 서버 랙의 전력 밀도는 200kW 이상으로 높아지고 있습니다.
이 정도로 서버 밀도가 높아지면 기존처럼 차가운 공기를 서버실에 공급하는 방식만으로 열을 제거하는 데 한계가 생길 수 있습니다.
결국 AI 데이터센터의 문제는 단순히 '전기를 얼마나 확보할 것인가'에서 끝나지 않습니다.
확보한 전력을 GPU가 사용하면서 만들어내는 열을 어떻게 제거할 것인가까지 해결해야 실제 AI 연산 능력을 안정적으로 운영할 수 있습니다.
AI 데이터센터 액체냉각이란?
공기 대신 액체를 적극적으로 이용해 열을 제거한다
액체냉각은 서버에서 발생하는 열을 제거하는 과정에 액체를 적극적으로 활용하는 냉각 방식입니다.
기존 공랭 방식은 서버실에 차가운 공기를 공급하고 뜨거워진 공기를 다시 회수하는 구조가 기본입니다.
반면 액체냉각은 열을 발생시키는 GPU나 CPU 가까이에서 액체를 이용해 열을 가져올 수 있습니다.
AI 서버처럼 특정 부품에서 많은 열이 발생하는 고밀도 컴퓨팅 환경에서는 이런 방식의 중요성이 커질 수밖에 없습니다.
DTC는 GPU 가까이에서 직접 열을 가져온다
대표적인 액체냉각 방식 가운데 하나가 DTC(Direct-to-Chip)입니다.
DTC는 GPU나 CPU처럼 열이 많이 발생하는 칩 위에 콜드 플레이트를 설치하고 그 내부로 냉각수를 순환시키는 방식입니다.
칩에서 발생한 열이 콜드 플레이트를 거쳐 냉각수로 전달되고, 뜨거워진 냉각수는 다시 냉각 시스템으로 이동합니다.
기존 공랭이 서버실 전체의 공기를 관리하는 방식에 가깝다면 DTC는 열이 발생하는 곳에 더 가까이 접근해 열을 제거하는 방식이라고 이해하면 쉽습니다.
국내에서도 실제 적용 움직임이 나타나고 있습니다.
LG CNS와 네이버클라우드는 삼송 데이터센터에 DTC 방식의 액체냉각 인프라를 구축하고 있습니다.
이 시설은 랙당 200kW 이상의 초고밀도 환경에 대응하고 엔비디아의 차세대 GPU 플랫폼인 베라 루빈 운영을 지원하는 것을 목표로 하고 있습니다.
CDU란 무엇일까?
CDU는 냉각수를 관리하고 순환시키는 핵심 장비다
CDU는 Coolant Distribution Unit의 약자로, 액체냉각 시스템에서 냉각수를 필요한 곳으로 공급하고 순환시키는 핵심 장비입니다.
우리말로는 냉각수 분배 장치라고 부릅니다.
GPU와 CPU에서 발생하는 열을 액체로 가져오려면 냉각수가 필요한 위치까지 안정적으로 공급되고 다시 회수돼야 합니다.
이 과정에서 CDU는 냉각수의 온도와 압력, 유량 등을 관리하면서 액체냉각 시스템이 안정적으로 작동하도록 돕습니다.
쉽게 생각하면 GPU 위에 설치되는 콜드 플레이트가 열을 직접 받아오는 장치라면, CDU는 여러 냉각 지점으로 냉각수를 보내고 다시 회수하는 액체냉각 시스템의 중심 장비 가운데 하나입니다.
AI 서버가 고밀도화되면 CDU도 대형화된다
고성능 GPU 서버가 많아질수록 데이터센터에서 제거해야 하는 전체 열의 양도 증가합니다.
따라서 대규모 AI 데이터센터에서는 개별 서버나 랙을 넘어 여러 고밀도 서버 랙에서 발생하는 열을 처리할 수 있는 대용량 냉각 시스템이 필요합니다.
최근 MW급 CDU가 등장하는 이유도 여기에 있습니다.
AI 데이터센터의 연산 밀도가 높아지면서 GPU뿐 아니라 이를 지원하는 냉각 인프라의 규모도 함께 커지고 있는 것입니다.
엔비디아는 왜 CDU를 주목했을까?
DSX Ready 초기 분야에 CDU가 포함됐다
엔비디아가 AI 팩토리 인프라를 다루면서 CDU를 별도의 제품 분야로 포함했다는 점은 AI 데이터센터에서 냉각의 중요성이 커지고 있음을 보여줍니다.
엔비디아는 2026년 9월 NVIDIA DSX Ready 프로그램을 발표했습니다.
AI 팩토리 구축업체가 NVIDIA DSX의 관련 요구사항을 충족하는 전력·냉각 제품을 확인할 수 있도록 만든 자격 프로그램입니다.
여기서 눈에 띄는 것은 초기 대상 분야입니다.
엔비디아는 첫 분야로 배터리 에너지저장장치(BESS)와 냉각수 분배 장치(CDU)를 선정했습니다.
초기 DSX Ready CDU 업체에는 LG전자와 LiquidStack, Vertiv 등이 포함됐습니다.
GPU를 만드는 엔비디아가 AI 팩토리용 인프라 프로그램에서 전력과 냉각 장비를 함께 다룬다는 것은 AI 데이터센터의 경쟁이 GPU 성능만으로 끝나지 않는다는 점을 보여줍니다.
DSX Ready가 데이터센터 전체를 보증하는 것은 아니다
DSX Ready의 의미도 구분해서 볼 필요가 있습니다.
DSX Ready는 해당 제품이나 솔루션이 정해진 범위에서 NVIDIA DSX의 관련 요구사항을 충족했다는 의미이지, 특정 데이터센터 전체의 성능이나 안정성을 엔비디아가 보증한다는 의미는 아닙니다.
실제 데이터센터에서는 서버 구성과 냉각 설계, 시설 조건에 맞는 별도의 엔지니어링 검토가 필요합니다.
LG전자 대용량 CDU가 주목받는 이유
AI 데이터센터 냉각 장비도 MW급으로 커지고 있다
LG전자는 AI 데이터센터용 대용량 CDU 시장에 대응하고 있습니다.
고성능 GPU 서버 랙의 전력 밀도가 수백 kW 수준까지 높아지면 개별 랙을 넘어 여러 고밀도 랙에서 발생하는 열을 처리할 수 있는 냉각 인프라가 필요해집니다.
여기서 중요한 것은 CDU 자체의 숫자만이 아닙니다.
MW급 CDU가 등장한다는 것은 AI 데이터센터에서 처리해야 하는 열의 규모 자체가 이전보다 커지고 있다는 의미로 볼 수 있습니다.
GPU가 고성능화되고 하나의 랙에 더 많은 연산 장비가 들어갈수록 이를 안정적으로 운영하기 위한 냉각 설비 역시 대형화될 가능성이 높습니다.
GPU만 늘린다고 AI 데이터센터가 완성되는 것은 아니다
AI 데이터센터를 구축하려면 GPU뿐 아니라 이를 실제로 가동할 수 있는 기반 시설이 함께 필요합니다.
GPU에 안정적으로 전력을 공급해야 하고, GPU가 소비한 전력에서 발생하는 열도 지속적으로 제거해야 합니다.
결국 AI 데이터센터의 규모가 커질수록 컴퓨팅과 전력, 냉각을 하나의 시스템으로 바라볼 필요가 있습니다.
액체냉각과 액침냉각은 같은 것일까?
DTC와 액침냉각은 구조가 다르다
DTC와 액침냉각은 모두 액체를 활용하지만 서버를 식히는 방법에는 차이가 있습니다.
DTC는 GPU나 CPU 위에 콜드 플레이트를 설치하고 그 안으로 냉각수를 순환시켜 열을 가져갑니다.
반면 액침냉각(Immersion Cooling)은 서버 또는 전자장비를 전기가 통하지 않는 특수한 절연 냉각액에 담가 열을 제거하는 방식입니다.
따라서 액체냉각과 액침냉각을 완전히 같은 의미로 이해하기보다는 액체를 활용하는 여러 열관리 기술 가운데 서로 다른 방식으로 구분하는 것이 좋습니다.
AI 데이터센터마다 적합한 냉각 방식은 달라질 수 있다
모든 AI 데이터센터가 동일한 방식으로 냉각될 필요는 없습니다.
서버 구성과 랙 밀도, 기존 시설 구조, 구축 비용, 운영 방식 등에 따라 공랭과 액체냉각을 함께 사용하거나 DTC와 같은 방식을 적용할 수 있습니다.
액침냉각 역시 차세대 데이터센터 열관리 기술 가운데 하나로 개발되고 있습니다.
중요한 것은 특정 냉각 기술 하나가 모든 방식을 대체하느냐가 아닙니다.
AI 연산 밀도가 높아지면서 데이터센터의 열을 관리하는 기술 전체의 중요성이 커지고 있다는 것이 핵심입니다.
한국에서도 AI 데이터센터 액체냉각이 확대될까?
이미 고밀도 GPU 환경을 위한 구축이 시작됐다
국내에서도 AI 데이터센터를 위한 액체냉각 인프라 구축이 진행되고 있습니다.
LG CNS는 네이버클라우드와 협력해 삼송 데이터센터에 DTC 방식의 액체냉각 인프라를 구축한다고 발표했습니다.
삼송 데이터센터의 총 수전 용량은 80MW이며, 랙당 200kW 이상의 고밀도 GPU 서버 환경에 대응할 수 있는 냉각 인프라 구축을 추진하고 있습니다.
이는 액체냉각이 단순한 미래 기술이 아니라 실제 고밀도 AI 데이터센터 설계에 적용되기 시작했다는 점에서 의미가 있습니다.
냉각은 데이터센터 설계 단계부터 고려해야 할 인프라가 된다
AI 데이터센터에 충분한 전력이 들어온다고 해도 서버에서 발생하는 열을 제거하지 못하면 확보한 전력을 모두 컴퓨팅 자원으로 활용하기 어렵습니다.
따라서 고밀도 AI 데이터센터에서는 냉각이 단순한 부대설비가 아니라 서버 구성과 함께 초기 설계 단계부터 검토해야 하는 핵심 인프라로 중요해질 가능성이 높습니다.
AI 데이터센터의 다음 병목은 냉각일까?
GPU·전력·냉각은 서로 연결돼 있다
AI 데이터센터는 GPU만으로 완성되는 시설이 아닙니다.
GPU와 AI 가속기가 늘어나면 더 많은 전력이 필요합니다.
전력 소비가 증가하면 발생하는 열도 많아집니다.
발열이 커지면 더 높은 성능의 냉각 설비가 필요합니다.
따라서 앞으로 AI 데이터센터 시장을 볼 때는 다음 요소를 하나의 인프라 생태계로 볼 필요가 있습니다.
GPU와 AI 반도체
전력 공급
변압기와 UPS
BESS
액체냉각
CDU
칠러와 열관리 시스템
AI 데이터센터 투자가 증가한다는 것은 GPU 판매량만 늘어난다는 의미가 아닙니다.
GPU를 실제로 설치하고 운영하려면 전력 공급부터 열 제거까지 여러 인프라가 함께 확장돼야 합니다.
이제는 'GPU를 어떻게 식힐 것인가'도 중요하다
AI 데이터센터의 경쟁은 GPU 성능만의 경쟁에서 점차 인프라 전체의 경쟁으로 확대되고 있습니다.
고성능 GPU가 많아질수록 전력 소비와 발열이 증가하고, 이를 안정적으로 운영하기 위한 액체냉각과 CDU의 역할도 커질 수밖에 없습니다.
엔비디아가 DSX Ready의 초기 분야 가운데 하나로 CDU를 선정하고 LG전자를 비롯한 냉각 솔루션 업체들이 관련 제품을 확대하는 것도 이런 흐름과 연결됩니다.
앞으로 AI 데이터센터를 볼 때는 단순히 '얼마나 많은 GPU를 확보했는가'만 볼 것이 아니라 '그 GPU에 어떻게 전력을 공급하고, 발생하는 열을 어떻게 제거할 것인가'까지 함께 살펴볼 필요가 있습니다.
AI 연산 밀도가 높아질수록 냉각은 보조 설비가 아니라 AI 컴퓨팅 성능을 실제로 구현하기 위한 핵심 인프라 가운데 하나가 될 가능성이 높기 때문입니다.
자주 묻는 질문
질문 1
Q. AI 데이터센터에서 CDU는 정확히 어떤 역할을 하나요?
A. CDU(Coolant Distribution Unit)는 액체냉각 시스템에서 냉각수를 순환시키고 온도와 압력, 유량 등을 관리하는 장비입니다. 고밀도 GPU 서버가 늘어날수록 처리해야 하는 열도 증가하기 때문에 대용량 CDU의 중요성도 함께 커지고 있습니다.
질문 2
Q. AI 데이터센터 액체냉각과 기존 공랭 방식은 무엇이 다른가요?
A. 공랭은 차가운 공기를 이용해 서버에서 발생한 열을 제거하는 방식입니다. DTC와 같은 액체냉각은 GPU나 CPU 가까이에서 냉각수를 이용해 열을 가져가기 때문에 고밀도 AI 서버 환경에서 활용도가 높아지고 있습니다.
질문 3
Q. 액체냉각과 액침냉각은 같은 기술인가요?
A. 완전히 같은 기술은 아닙니다. DTC 액체냉각은 GPU나 CPU에 설치한 콜드 플레이트 내부로 냉각수를 순환시키는 방식이고, 액침냉각은 서버나 전자장비를 절연성 냉각액에 직접 담가 열을 제거하는 방식입니다.
0 댓글