[2024 데이터센터 서밋 코리아]AX시대 데이터센터, 클라우드 역량이 관건

“퍼블릭 클라우드에서 AI 서비스를 잘 구현하는 것이 중요하고, 이를 위해서는 현대화된 인프라가 갖춰진 데이터 센터를 구축해야 합니다. 프라이빗 클라우드 기반 AI 데이터 센터인 '공유형 AI 플랫폼'으로 최신 클라우드와 AI 기술을 모두 활용할 수 있습니다.”

한지운 메가존클라우드 부사장은 2일 전자신문과 한국데이터센터연합회가 주최한 '데이터센터 서밋 코리아 2024'에서 데이터센터 혁신 전략을 공개했다.

공유형 AI 플랫폼은 여러 사용자가 동일한 AI 자원을 공유하는 플랫폼이다. 인프라를 구축하고, 유지하는 데 소요되는 시간과 비용을 줄여준다. 프라이빗 클라우드를 기반으로 구축해 사용자가 데이터를 소유, 관리할 수 있다.

한 부사장은 “공유형 AI 플랫폼으로 자원 활용도를 극대화시켜 비용을 줄일 수 있다”며 “인증된 사용자만 플랫폼 포털에서 데이터를 관리할 수 있어 보안 문제도 해결할 수 있다”고 말했다.

이어 “공유형 AI 플랫폼은 규모의 경제로 전기료와 발열 문제도 해소하고, 중복 투자도 제거해준다”며 “AI 민주화를 위한 데이터센터”고 강조했다.

조용노 델 테크놀로지스 전무는 '델 테크놀로지스의 AI 전략과 데이터센터 효율화'를 주제로 기조 강연을 했다.

조 전무는 “전력, 열, 성능 등 효율성을 높인 데이터 센터 설계로 탄소발자국을 줄여 에너지 비용을 절감할 수 있다”며 “델 테크놀로지스는 서버와 스토리지 데이터 감소를 단순화하고, 동시에 제품 밀도도 높였다”고 설명했다.

델 테크놀로지스는 데스크톱에서 데이터 센터, 클라우드에 이르기까지 업계에서 가장 광범위한 AI 포트폴리오로 구성된 '델 AI 팩토리'를 제공한다. 이는 투자 비용을 최적화시켜 다양한 선택의 기회를 준다.

조 전무는 “가장 광범위한 AI 솔루션은 기업에서 새로운 업무를 시작할 때 사업 가치와 기업의 실행 가능성을 기준으로 기대효과가 높은 곳부터 AI 기술을 적용할 수 있도록 돕는다”고 말했다.

델 테크놀로지스는 지난 3월 굿모닝아이텍을 전략파트너로 선정했다. 굿모닝아이텍은 이날 오후 섹션에서 델 테크놀로지스와 함께 하이퍼 컨버지드 인프라스트럭처(HCI) 솔루션 '델 파워플렉스'를 소개했다.

델 파워플렉스는 소프트웨어 정의 인프라 플랫폼으로 블록·파일 스토리지와 컴퓨팅 자원을 통합해 베어메탈 리눅스, 윈도 등 다양한 운용체계(OS)를 지원한다.

굿모닝아이텍은 델 테크놀로지스와 함께 델 파워플렉스 공급을 확대하고 적극적으로 지원할 계획이다.

AI 기술이 발전하면서 인프라 변화도 주요 화두로 떠오르고 있다.

신은수 AWS 보안 전문 수석은 'AI 혁신 가속화 도구, 클라우드'를 주제로 강연했다.

신 수석은 “범용 AI가 아니라 고객과 비즈니스 데이터로 차별화를 주는 생성형AI가 중요하다”며 “범용AI처럼 하나의 도구가 모든 것을 만족시킬 수는 없다”고 말했다.

이어 “파운데이션 모델 하나에 집중하기 보다 고객이 원하는 것을 파악해 개선을 위한 생성형 AI를 제공하는 것이 중요하다”고 덧붙였다.

AWS는 아마존 베드록, 아마존 Q, 아마존 세이지메이커, AWS 트레이니움, AWS 인퍼런시아 등 AWS의 생성형 AI 인프라로 혁신을 돕고 있다. AWS는 생성형 AI 스택으로 초거대언어모델(LLM)이나 기타 파운데이션 모델을 이용할 수 있는 도구를 제공하고 있다.

파운데이션 모델의 학습과 추론을 위해 각 기능별 인프라도 지원한다.