엔비디아가 ‘물 안 쓰는 데이터센터’를 만든다고? 45℃ 액체냉각 기술의 진실

결론부터 말하면, 엔비디아의 45℃ 액체냉각 기술은 데이터센터 내부에서 직접 쓰는 물을 크게 줄일 수 있는 의미 있는 변화입니다. 하지만 이것이 곧 AI 산업의 물 문제가 모두 해결됐다는 뜻은 아닙니다. 데이터센터가 사용하는 전기를 발전소에서 만드는 과정에서도 막대한 물이 쓰이기 때문입니다.

AI 시대의 진짜 질문은 “데이터센터가 물을 쓰는가?”를 넘어 “그 데이터센터가 어떤 전기로 돌아가는가?”로 이동하고 있습니다. 엔비디아는 냉각 기술로 첫 번째 문제를 해결하고 있지만, 두 번째 문제는 에너지 산업 전체가 함께 풀어야 할 과제로 남아 있습니다.

AI 시대의 숨겨진 문제, 전기보다 물이 더 중요해지고 있다

AI가 발전할수록 사람들은 GPU 성능과 전력 소비에 주목합니다. 하지만 AI 인프라가 커질수록 또 하나의 문제가 떠오르고 있습니다.

바로 물(Water)입니다.

대형 데이터센터는 엄청난 양의 전기를 소비할 뿐 아니라, 서버를 식히기 위해 막대한 양의 물을 사용합니다. 특히 생성형 AI가 폭발적으로 성장하면서 데이터센터의 물 소비량은 환경 문제의 중심에 서게 되었습니다.

이런 상황에서 엔비디아는 최근 매우 흥미로운 발표를 내놓았습니다.

“데이터센터의 물 사용량을 거의 0에 가깝게 만들겠다.”

그 비밀은 바로 45℃ 고온 액체냉각 시스템에 있습니다.

뜨거운 물로 서버를 식힌다고?

일반적으로 사람들은 서버를 차갑게 식혀야 효율이 높다고 생각합니다.

그런데 엔비디아의 차세대 AI 플랫폼인 Rubin은 완전히 다른 접근을 선택했습니다.

새로운 서버는 냉각수가 무려 45℃ 상태로 칩에 들어가고, 약 55℃까지 올라간 뒤 다시 순환됩니다.

냉각수는 다음 액체를 혼합한 구조입니다.

• 물 75%
• 프로필렌글리콜(식품용 부동액) 25%

중요한 점은 이 액체가 외부로 배출되지 않는다는 것입니다.

한 번 채워 넣으면 폐쇄형 루프 안에서 계속 순환하며 열을 운반합니다.

팬이 사라진 AI 서버

Rubin 서버의 또 다른 특징은 팬(Fan)이 없다는 것입니다.

기존 데이터센터에서는 거대한 팬이 뜨거운 공기를 밀어내고 냉각탑이 물을 증발시키며 열을 제거했습니다.

하지만 Rubin은 다릅니다.

액체가 칩에서 직접 열을 가져가기 때문에 다음 변화가 가능해집니다.

• 팬이 필요 없음
• 냉각탑이 필요 없음
• 냉동기 사용 최소화

덕분에 소음도 크게 줄어듭니다.

전통적인 데이터센터 내부 소음은 85dB 이상까지 올라가 귀마개가 필요한 수준이지만, 액체냉각 환경에서는 훨씬 조용한 운영이 가능합니다.

물 사용량을 거의 0으로 줄이는 비밀

기존 데이터센터는 냉각탑에서 물을 증발시키며 열을 버립니다.

마치 빨래가 마르면서 주변 온도를 낮추는 원리와 비슷합니다.

문제는 이 과정에서 엄청난 양의 물이 사라진다는 것입니다.

엔비디아에 따르면 기존 냉각탑 방식은 1MW당 연간 약 260만 갤런의 물 사용이 가능하다고 합니다.

반면 Rubin의 고온 액체냉각은 드라이쿨러(Dry Cooler)를 사용합니다.

드라이쿨러는 거대한 자동차 라디에이터와 비슷한 장비로, 물을 증발시키지 않고 공기만으로 열을 방출합니다.

결과적으로 다음 효과를 얻을 수 있습니다.

• 냉각탑 제거
• 물 증발 제거
• 현장 물 사용량 거의 0

데이터센터를 물 부족 지역에도 지을 수 있다

지금까지 데이터센터는 물 확보가 중요한 입지 조건이었습니다.

실제로 미국 서부와 같은 물 부족 지역에서는 데이터센터가 주민 생활용수, 농업용수와 경쟁하는 사례가 많았습니다.

하지만 물 사용량이 거의 없는 설계가 가능해진다면 이야기가 달라집니다.

그동안 데이터센터 건설이 어려웠던 지역에서도 AI 인프라 구축이 가능해질 수 있습니다.

버려지는 열도 에너지 자원이 된다

Rubin 시스템에서 나오는 냉각수 온도는 약 55℃입니다.

이 정도 온도는 그냥 버리기에는 아까운 에너지입니다.

활용 사례는 다음과 같습니다.

• 건물 난방
• 온수 공급
• 지역난방 시스템

즉 데이터센터가 단순히 열을 배출하는 시설이 아니라 도시의 열 공급원이 될 수 있다는 의미입니다.

냉각비 절감은 결국 AI 가격을 낮춘다

데이터센터에서 냉각은 생각보다 큰 비용입니다.

전체 전력 사용량의 최대 40%가 냉각에 사용되기도 합니다.

냉각 효율이 좋아지면 다음 효과가 발생합니다.

• 전력 사용 감소
• 운영비 절감
• 같은 전력으로 더 많은 GPU 운영 가능
• 더 많은 AI 연산 수행 가능

엔비디아는 50MW 규모 시설 기준으로 액체냉각 전환 시 연간 400만 달러 이상의 냉각 관련 비용을 절감할 수 있다고 설명합니다.

AI 공장을 “전기와 데이터를 넣어 토큰을 생산하는 공장”이라고 본다면, 냉각은 생산성을 떨어뜨리는 보이지 않는 세금과 같습니다.

그런데 정말 물 문제가 해결된 걸까?

여기서 중요한 질문이 등장합니다.

엔비디아는 물 사용량을 거의 0으로 만들었다고 말합니다.

하지만 사실 이 표현에는 중요한 전제가 숨어 있습니다.

바로 “데이터센터 내부에서 직접 사용하는 물”만을 의미한다는 점입니다.

데이터센터 물 사용은 두 종류가 있다

AI가 사용하는 물은 크게 두 가지로 나뉩니다.

구분	의미
직접 물 사용	데이터센터 내부에서 서버를 식히기 위해 사용하는 물
간접 물 사용	데이터센터가 사용하는 전기를 생산하기 위해 발전소에서 사용하는 물

많은 사람들이 첫 번째만 보고 있지만 실제로는 두 번째가 훨씬 큽니다.

진짜 물 사용량은 발전소에 숨어 있다

2024년 로런스 버클리 국립연구소 보고서에 따르면, 2023년 미국 데이터센터의 직접 물 소비는 약 174억 갤런 수준이었습니다.

그런데 같은 해 데이터센터 전력을 생산하기 위해 발전소에서 사용된 물은 약 2,110억 갤런으로 추정됩니다.

무려 12배 이상 많습니다.

즉 엔비디아의 액체냉각 기술은 첫 번째 문제는 해결하지만 두 번째 문제는 그대로 남아 있습니다.

결국 물 문제의 핵심은 전력원이다

석탄·가스·원자력 발전은 모두 냉각수를 필요로 합니다.

따라서 데이터센터가 아무리 물을 쓰지 않아도 전력을 이런 발전소에서 공급받으면 물 사용은 계속 발생합니다.

반면 태양광과 풍력은 운영 과정에서 물 사용량이 매우 적습니다.

결국 AI 산업의 진짜 물 발자국을 줄이려면 냉각 기술뿐 아니라 전력 생산 방식까지 함께 바뀌어야 합니다.

엔비디아가 정말 노리는 것은 무엇인가

이번 발표는 단순한 환경 캠페인이 아닙니다.

Rubin 플랫폼은 설계 자체가 100% 액체냉각을 전제로 만들어졌습니다.

즉 Rubin을 도입하려는 기업은 자연스럽게 다음 인프라까지 함께 구축해야 합니다.

• 액체냉각 설비
• 전력 인프라
• 운영 시스템

엔비디아는 더 이상 GPU만 판매하는 기업이 아닙니다.

AI 공장(AI Factory)의 표준 설계 자체를 판매하는 방향으로 진화하고 있습니다.

결론: 기술적 성과는 분명하지만, 물 문제는 아직 끝나지 않았다

45℃ 액체냉각은 분명 의미 있는 기술 혁신입니다.

이 기술은 다음 장점을 제공합니다.

• 데이터센터 현장 물 사용량 감소
• 냉각 전력 절감
• 더 높은 GPU 밀도 구현
• 물 부족 지역 입지 확대

하지만 이것이 곧 “AI의 물 문제 해결”을 의미하지는 않습니다.

데이터센터 안에서 물을 쓰지 않더라도, 그 전기를 만드는 발전소에서 물을 사용한다면 전체 물 발자국은 여전히 존재하기 때문입니다.

결국 AI 시대의 진짜 질문은 이것입니다.

“데이터센터가 물을 쓰는가?”가 아니라

“그 데이터센터가 어떤 전기로 돌아가는가?”

엔비디아는 냉각 기술로 첫 번째 문제를 해결하고 있습니다.

하지만 두 번째 문제인 전력 생산의 물 소비는 앞으로 에너지 산업 전체가 함께 해결해야 할 과제로 남아 있습니다.

참고문헌

• NVIDIA Blog, Hotter Than a Hot Tub: The 45°C Breakthrough to Cool AI’s Biggest Machines
• Lawrence Berkeley National Laboratory, 2024 United States Data Center Energy Usage Report
• International Energy Agency, Energy and AI
• The Verge, Nvidia says its AI data center design runs hotter to use a lot less water
• Tom’s Hardware, Nvidia announces liquid cooling system that runs hotter than a hot tub