[ET단상] 현대 데이터센터 구축의 3가지 핵심 요소

데이터센터는 짧은 기간 동안 엄청난 변화를 겪었다. 불과 20년 전만 해도 원시적이고 투박하며 거대한 기계였으나, 정보기술(IT) 인프라가 데스크톱에 통합되며 새로운 국면을 맞이했다. 인터넷의 등장과 고성능컴퓨팅(HPC), 엔터프라이즈 기술, 클라우드 서비스 등 혁신 기술 수요 증가로 데이터센터 중요성이 더욱 부각됐다. 현재 인공지능(AI) 붐으로 데이터센터가 그 어느 때보다 빠르게 보급되고 있는 만큼 이에 대한 기대치 또한 높아지고 있다. 기업들은 거듭 커지는 요구사항을 충족하기 위해 데이터센터의 성능 최적화 방법을 더욱 면밀히 검토해야 한다.

데이터센터의 효율성 극대화는 구성 요소의 재검토로 시작된다. 이때 개별 서버가 아닌 랙 전체를 고려해야 한다. 랙 스케일 접근 방식을 채택한다면 설비 시간을 단축하고, 유지보수 비용을 줄일 수 있다. 랙이 처리할 수 있는 전력량, 다양한 공냉식 및 수냉식 냉각 레이아웃, 서버 간 통신 속도 최적화 등 여러 요소를 종합적으로 고려해야 한다. 이러한 변수는 랙에 탑재할 컴퓨팅 수와 스토리지 용량에 따라 달라지며, 저집적도 랙의 고용량 냉각 시스템 유무의 영향을 받는다.

랙은 탑재할 서버 수에 따라 그 높이를 다르게 설계할 수 있다. 랙에 서버를 배치해 하나의 효율적인 스택으로 통합한다면, 불필요한 확장과 전력 연결을 줄일 수 있다. 또 하나의 스위치에 컴퓨팅 시스템과 스토리지 시스템을 조합해 랙에 배치한다면 시스템 간의 상호작용 속도를 크게 향상시키고, 지연 시간도 최소화할 수 있다. 이러한 고집적도 랙 설계는 공간 활용도를 극대화하고 조직의 요구에 최적화된 데이터센터를 구축하는 데 적합하다. 다만 이때 설계자는 랙과 서버를 시원하게 유지하는 방법도 함께 고려해야 한다.

랙에 서버를 배치할 때 발생하는 열을 공냉식 냉각만으로 감당하기 어려울 수 있다. 최신 중앙처리장치(CPU)와 그래픽처리장치(GPU)가 각각 500W와 700W에 이르는 전력량을 소모할 것으로 예상되기 때문이다. 이에 따라 수냉식 냉각은 고성능 서버 설계에서 필수적인 요소로 자리 잡고 있다. 대표적으로 서버의 열원을 직접 냉각하는 DTC(Direct-to-Chip) 냉각, 서버 전체 또는 특정 부품을 비전도성 유전체 액체로 채워진 탱크에 담가 식히는 액침 냉각, 열이 가장 많은 서버의 후면에 설치된 특수 도어를 통해 뜨거운 공기를 즉각 냉각하는 후면 도어 열교환기 등의 방식이 있다.

이 3가지 수냉식 냉각은 작동 방식이 다르지만, 서버 냉각 외에도 소음 감소, 에너지 절약, 운영 비용 절감 등 다양한 이점을 제공한다는 공통점을 갖는다. 이뿐만 아니라, 수냉식 냉각은 화석 연료 발전소의 탄소 배출을 줄여 데이터센터의 환경 영향을 완화하고, 조직의 탄소 중립 목표 달성을 돕는다.

마지막으로 데이터센터의 성능을 효과적으로 관리하고 최적화하는 방법은 AI 클러스터 네트워크를 통해 서버 간 통신을 향상시키는 것이다. 인피니밴드는 패브릭의 지연 시간을 최소화하고, 적응형 라우팅으로 매우 빠른 속도로 통신을 복구할 수 있으며 RDMA(Remote direct memory access) 기능을 통해 CPU 부하를 줄이고 서버 간 직접 메모리 액세스를 허용한다.

새로운 기술인 NVLink와 UALink는 HPC 환경을 위해 설계됐으며, 고속 상호 연결을 통해 데이터센터의 성능과 효율성을 향상시킨다. GPU 간 고대역폭 연결을 지원하는 NVLink와 CPU 간 고속 상호 연결을 돕는 UALink를 결합하면 컴퓨팅 시스템의 전반적인 성능이 크게 향상되며, 데이터센터의 처리 능력을 새로운 수준으로 끌어올릴 수 있다.

인터넷 발명 이후, 데이터센터의 중요성이 날로 커지고 있다. 특히 HPC와 AI 응용 프로그램의 발전이 계속되는 가운데, 데이터센터 제공업체들은 단순히 캠퍼스 수를 늘리는 것 외에 다른 혁신적인 접근 방법을 적극 모색해야 한다. 데이터센터의 구성을 면밀히 검토하고 적절한 랙 스케일 솔루션을 도입하는 것은 데이터센터의 지속적인 발전을 이끌고, 컴퓨팅 기술의 새로운 시대를 여는 데 핵심적인 역할을 할 것이다.

마이클 맥너니 슈퍼마이크로 마케팅 및 네트워크 시큐리티 부사장 anthonyK@supermicro.com