[2025 데이터센터 서밋 코리아] AI 인프라, '실시간 실행환경'으로 재정의···“설계 철학 바꿔야”

인공지능(AI) 연산 일상화에 따라 데이터센터가 정적인 서버 호스팅 공간에서 실시간 처리, 자동화 운영, 에너지 최적화를 동시 처리하는 '지능형 실행 환경'으로 전환돼야 한다는 목소리가 나왔다.

14일 열린 '2025 데이터센터 서밋 코리아' 트랙1 세션에서는 전력·냉각·스토리지·운용체계 등 AI 인프라 전반 총체적 재설계의 필요성이 제기됐다.

김용지 디지털리얼티 기술이사는 “그래픽처리장치(GPU) 고밀도 환경은 기존 설계 방식으로는 대응할 수 없다”며 “전력 공급, 냉각 경로, 랙 배치 등 인프라의 모든 요소를 처음부터 다시 설계해야 한다”고 말했다.

그는 “AI 데이터센터의 핵심 기준은 지속 가능성, 유연성, 표준화”라며 “특정 장비를 모은 공간이 아닌, 연산 흐름 중심의 최적화된 환경으로 바뀌어야 한다”고 강조했다.

디지털리얼티는 고전력 밀도의 AI 서버를 수용할 수 있는 설계 가이드라인을 국제 표준화 작업과 병행 중이다.

이호성 윈드리버 이사는 실시간 운영을 위한 클라우드 플랫폼 'WRCP'를 소개하며 “AI는 대기 시간이 1~2초만 길어져도 연산 효율이 급격히 떨어지는 구조”라고 지적했다.

이어 그는 “WRCP는 하드웨어 가상화 기반의 실시간 통합 플랫폼으로, 엣지에서 발생한 연산 요청을 클라우드까지 무손실로 연결한다”며 “앞으로의 인프라는 사람이 명령하는 것이 아니라, 시스템이 스스로 판단해 동작하는 '자율형 인프라'로 진화해야 한다”고 덧붙였다.

조규민 이안 부대표는 'AI x 디지털 트윈' 전략을 바탕으로 데이터센터 전 생애주기를 통합 관리하는 방법론을 발표했다.

그는 “설계부터 시공, 운영까지 모든 단계의 데이터를 디지털 트윈으로 통합하면 냉각 최적화, 전력 예측, 자산 관리까지 자동화가 가능하다”고 밝혔다.

이안은 실시간 피드백과 반복 시뮬레이션을 통해 자율 학습이 가능한 디지털 트윈 모델을 구축하고 있다.

그는 “이는 AI 운영 효율성 극대화뿐 아니라 예측 기반 장애 대응 체계로도 활용되고 있다”고 설명했다.

김영석 퓨어스토리지코리아 상무는 AI 연산을 위한 스토리지 구조 전환의 시급성을 강조했다.

그는 “고성능 GPU만 도입해선 전체 AI 성능이 나오지 않고 저장, 연산, 이동이 병렬로 유기적으로 작동해야 한다”며 “고속 데이터 흐름을 지원하지 못하는 스토리지는 AI 연산의 병목이 될 수 있다”고 말했다.

퓨어스토리지는 자체 개발한 고속 입출력(I/O) 기반의 '플래시블레이드(FlashBlade)' 스토리지를 통해 AI 연산 최적화에 필요한 저장-이동 통합 설계를 제공한다.

윤정림 KT 클라우드 매니저는 'DC Ops Total Platform'을 소개하며 AI 환경에 특화된 운영 자동화의 중요성을 설명했다.

DC Ops 플랫폼은 자원 자동 할당, 예지 정비, AI 기반 장애 탐지 기능을 탑재해, 무중단 연산 환경을 가능하게 한다.

그는 “운영자가 수동으로 리소스를 배치하고 모니터링하던 시대는 끝났다”며 “AI 인프라는 이제 'AI가 운영하는 인프라'로 진화하고 있고, 특히 AI 인프라 운영의 핵심은 안정성과 확장성을 동시에 달성하는 것”이라고 강조했다.

류태웅 기자 bigheroryu@etnews.com