AI 칩 식히는 물은 뜨겁다
1온탕보다 뜨거운 냉각수
AI 칩을 식히는 물은 최대 45도예요. 온탕(약 38~40도)보다 뜨거워요.
2선반 하나가 120 kW
GPU가 72개 들어간 선반 하나는 전기로 120 kW를 써요. 쓴 전기는 거의 열이 돼요.
3바람만으로는 벅차다
예전 서버 선반의 약 6배 전력이라, 바람만으로는 열을 빼내기 어려워요.
4물은 열을 약 3,500배 담는다
같은 부피라면 물은 공기보다 열을 약 3,500배 담아요. 그래서 열을 나르는 데 물이 훨씬 유리해요.
5칩 위에 구리판을 바로 얹는다
칩 바로 위에 구리판(콜드 플레이트)을 얹고, 그 속으로 물을 흘려요. 열이 나는 자리에서 바로 가져가요.
6핀 사이를 훑는 물
구리판을 자르면 얇은 핀이 촘촘히 서 있어요. 물이 그 틈을 훑고 지나가며 열을 가져가요.
745도로 들어가 약 55도로 나온다
45도로 들어간 물은 칩의 열을 받아 약 55도가 되어 나와요.
8칩이 더 뜨거우니 열은 넘어간다
열은 뜨거운 쪽에서 차가운 쪽으로 흘러요. 칩이 물보다 더 뜨거우니 따뜻한 물로도 열이 넘어가요.
9열교환기에서 열을 넘기고 돌아온다
데워진 물은 열교환기에서 열을 건네고, 닫힌 고리를 따라 다시 칩으로 돌아와요.
공기 중에서는 견딜 만한 온도인데, 같은 온도의 물에 들어가면 훨씬 춥게 느껴져요. 물이 몸의 열을 훨씬 빨리, 많이 가져가기 때문이에요.
칩 냉각도 같아요. 물은 같은 부피에 열을 공기보다 약 3,500배 담으니, 미지근하다 못해 뜨거운 물도 바람보다 열을 잘 실어 나릅니다.
열은 늘 뜨거운 쪽에서 차가운 쪽으로 흘러요. 칩이 물보다 뜨겁기만 하면, 물을 얼음처럼 차게 만들 필요가 없는 거죠.
- AI 서버 한 선반의 전력이 120 kW까지 오르면서 공기만으로는 열을 빼기 어려워졌어요. 그래서 칩 위에서 바로 열을 가져가는 액체냉각이 쓰이고 있어요.
- 물을 차게 만들 필요가 줄면 냉동기 부담도 줄어요. 45도 냉각액이 주목받는 이유예요.
해외 회사는 업계에 널리 알려진 대표 업체를 골랐으며, 이번 회차 소부장 자료에는 액체냉각 관련 국내 회사가 나오지 않아 국내 항목은 넣지 않았습니다. 회사 소개일 뿐 투자 추천이 아닙니다.
더 깊이 — 원문 요약·용어 정리·출처
AI 서버의 칩을 식히는 냉각수는 차갑지 않습니다. 최신 AI 서버는 냉각액을 최대 45 °C로 돌리는데, 온탕(약 38~40 °C)보다 뜨거운 이 물이 바람보다 칩을 잘 식히는 이유는 물이 같은 부피에 공기보다 열을 약 3,500배 담기 때문입니다.
- AI 칩을 식히는 이 물은 최대 45도(NVIDIA 최신 AI 서버의 냉각액), 온탕보다 뜨겁습니다
- 그런데 이 뜨거운 물이, 바람보다 칩을 잘 식힙니다
- GPU가 72개 들어간 선반 하나는, 전기로 120 kW를 씁니다(GB200 NVL72 기준)
- 예전 서버 선반(랙당 20 kW)의 약 6배라, 바람만으로는 벅찹니다
- 같은 부피라면, 물은 공기보다 열을 약 3,500배 담습니다(25 °C 기준 계산)
- 그래서 칩 위에 구리판(콜드 플레이트)을 바로 얹고, 그 속으로 물을 흘립니다
- 구리판을 잘라 보면, 얇은 핀이 촘촘히 서 있고, 물이 그 틈을 훑고 지나갑니다
- 45도로 들어간 물은, 열을 받아 약 55도가 되어 나옵니다
- 칩은 그보다 더 뜨거우니, 따뜻한 물로도 열은 넘어갑니다
- 데워진 물은 열교환기에서 열을 넘기고, 다시 칩으로 돌아옵니다
- AI가 답을 쓰는 동안, 최신 서버 속에선 이 물이 칩의 열을 실어 나릅니다
AI 서버 한 랙의 전력이 120 kW까지 오르자 공기만으로는 열을 다 빼기 어려워졌습니다. 그래서 칩 위에 구리판을 얹고 그 속 가는 유로로 냉각액을 흘려, 열이 나는 자리에서 바로 열을 가져갑니다.
물이 차갑지 않아도 되는 이유는 열이 뜨거운 쪽에서 차가운 쪽으로 흐르기 때문입니다. 칩이 냉각액보다 뜨거우면 45 °C 물로도 열은 넘어가고, 물을 차게 만들 냉동기 부담이 줄어듭니다.
- 액체냉각(칩 직접 냉각)
- 칩 위에 얹은 금속판 속으로 냉각액을 흘려 열을 빼는 방식입니다. 냉각액은 물 75%와 프로필렌글리콜 25%를 섞은 액체이고, 한 번 채운 뒤 닫힌 고리로 돕니다.
- 콜드 플레이트(구리판)
- 칩에 맞닿는 밀봉 금속판입니다. 안쪽에 깎아 세운 핀이나 가는 유로가 있어 냉각액이 닿는 면적을 넓힙니다. 칩과 판 사이에는 열전달 물질(TIM)을 바릅니다.
- 랙(서버 선반)
- 서버를 층층이 꽂는 높이 2 m 남짓한 철제 선반입니다. GB200 NVL72 랙 하나에는 GPU 72개와 CPU 36개가 들어갑니다.
- kW(킬로와트)
- 전력의 단위입니다. 서버가 쓴 전기는 거의 모두 열이 되므로, 랙 전력이 곧 빼내야 할 열의 크기입니다.
- 열교환기·CDU
- 냉각수 분배 장치(CDU) 안의 열교환기는 칩을 돈 냉각액과 건물 쪽 냉각수가 섞이지 않게 얇은 판을 사이에 두고 열만 건네주는 장치입니다.
45 °C 물이 통하는 건, 물을 차게 만들 필요가 없어서예요.
물이 45 °C면 냉동기 없이 바깥 공기로 식히는 건식 냉각기로도 돌릴 수 있습니다(기후가 맞을 때).
냉각탑은 물을 증발시켜 열을 버리는데, 이 방식이면 시설 냉각수 소비가 MW당 연 약 260만 갤런에서 거의 0까지 줄 수 있다고 합니다.
흔히 'AI 서버가 물을 먹는다'는 건 이 증발 쪽 이야기이고, 칩 위를 도는 냉각액은 한 번 채워 닫힌 고리로 돕니다.
물은 열을 담는 양뿐 아니라 열전도도 공기(질소 기준)의 약 23배입니다.
▶ 영상
▶ 영상
▶ 영상
▶ 영상
▶ 영상
▶ 영상
▶ 영상