오케스트로, AI 인프라 풀스택 앞세워 소버린 AI 클라우드 日 공급

오케스트로가 일본 AI 데이터센터에 1,350 물리 노드 규모의 ‘소버린 AI 클라우드 솔루션’ 패키지를 공급하는 계약을 체결했다. 국내에서 검증된 AI 인프라 소프트웨어 풀스택을 일본 시장에 수출한 첫 사례로 오케스트로는 자체 개발한 소버린 AI 클라우드 아키텍처를 기반으로 글로벌 시장 진출에 속도를 내고 있다.

생성형 AI 확산으로 대규모 AI 서비스를 안정적으로 운영하기 위한 인프라 수요가 증가하는 가운데, 퍼블릭 클라우드 기반 AI 운영은 GPU 장애 원인 분석의 어려움과 장시간 연산에 따른 비용 부담 등 구조적 한계를 드러내고 있다. 이에 따라 AI 데이터센터를 중심으로 운영과 비용을 직접 통제할 수 있는 프라이빗 인프라 구축에 대한 관심이 높아지고 있다.

오케스트로의 ‘소버린 AI 클라우드 솔루션’ 패키지는 이러한 환경 변화에 대응해 AI 데이터센터에 필수적인 AI 워크로드 최적화를 구현하고 고객 환경에 따라 필요한 기능만 선택해 구성할 수 있는 모듈형 AI 인프라 아키텍처를 핵심으로 설계됐다. 퍼블릭 클라우드나 CSP와 달리 데이터와 AI 운영, 비용과 장애 대응 체계를 고객이 직접 통제할 수 있도록 한 점이 특징이다.

이번 프로젝트는 일본 현지 AI 데이터센터에 소버린 AI 클라우드 솔루션 패키지를 대규모로 적용한 사례다. 기존 코로케이션 방식의 한계를 느낀 AI 사용 고객의 요구에 대응해 프라이빗 클라우드 기술을 적용했으며 GPU 가상화(GPUaaS)를 기반으로 생성된 컨테이너 자원을 활용해 대규모 LLM 서비스를 안정적으로 운영할 수 있는 AI 인프라 환경을 구성했다.

해당 솔루션 패키지에는 서버 가상화 솔루션과 클라우드 네이티브 운영관리 플랫폼을 포함해 데이터센터 내 GPU 자원의 통합 관리부터 컨테이너 배포와 AI 엔드포인트 운영까지 전 과정을 지원하는 오케스트로의 AI·클라우드 풀스택 솔루션이 적용됐다. 이를 통해 AI 서비스부터 클라우드 인프라, 통합 운영관리까지 아우르는 소버린 AI 클라우드 아키텍처를 제공한다.

오케스트로는 이번 솔루션 패키지 수출을 발판으로 소프트웨어를 넘어 하드웨어가 결합된 ‘소버린 AI 클라우드 데이터센터’로 사업 범위를 단계적으로 확장할 계획이다. 고객 맞춤형 하드웨어 설계까지 포함한 통합 솔루션을 통해 각국의 규제와 산업, 기업 환경에 최적화된 글로벌 AI 인프라 사업을 확대한다는 방침이다.

김범재 오케스트로 대표는 “국내에서 검증된 소버린 AI 클라우드 솔루션이 일본 데이터센터 환경에서 실제 서비스로 구현된다는 점에서 뜻깊다”며 “퍼블릭 클라우드 중심의 기존 운영 방식과 차별화된 소버린 AI 클라우드 데이터센터 아키텍처로 글로벌 AI 인프라 시장의 새로운 표준을 제시하겠다”고 말했다.

헬로티 구서경 기자 |