파네시아, 美 데이터 센터 행사서 CXL 탑재 AI 클러스터 발표

AI 데이터 센터에 CXL 기술을 실용적으로 도입하기 위한 청사진 제시

파네시아가 이달 15일부터 미국 캘리포니아주에서 개최된 세계 최대 규모 데이터 센터 관련 행사인 'OCP Global Summit에서 CXL 3.1 스위치가 포함된 AI 클러스터를 공개했다.

파네시아 관계자는 “AI가 메인 토픽으로 다뤄진 올해 행사에서 파네시아는 AI 데이터 센터에 CXL 기술을 실용적으로 도입하기 위한 청사진을 제시함으로써 많은 글로벌 기업의 관심을 받고, 고객사·협업사 풀을 확장할 수 있었다”고 전했다.

AI가 널리 상용화된 현재, AI 서비스 정확도가 많은 기업의 매출에 직접적인 영향을 끼치고 있다. 이러한 상황에서 마이크로소프트, 구글과 같은 기업들은 최근 많은 양의 데이터와 거대한 모델을 활용해 AI 서비스의 정확도를 높이기 위한 시도를 반복하며, 이로 인해 기업 데이터 센터의 메모리 수요가 폭발적으로 늘고 있다.

이러한 상황에서 메모리 확장에 제동을 거는 문제가 있다. 일반적으로 데이터 센터에서는 메모리 용량을 늘리기 위해 서버를 추가하는 방식을 활용하는데, 이렇게 메모리를 확장하는 과정에서 메모리 외의 부품 구매 비용, 즉 불필요한 지출이 많이 발생하게 된다는 것이다.

OCP Global Summit는 이러한 기존 데이터 센터의 비용효율적인 문제를 해결하는 방법 등 이상적인 데이터 센터 인프라 구축 방안에 대한 논의가 이뤄지는 행사다. 올해에는 다수의 글로벌 기업을 포함해 7000명 이상의 관계자가 모여 AI향 솔루션에 대해 중점적으로 논의를 진행했다.

파네시아가 행사에서 선보인 CXL 탑재 AI 클러스터는 차세대 인터페이스 기술인 CXL(Compute Express Link)을 활용해 AI 데이터 센터의 비용 효율을 획기적으로 개선하는 솔루션이다. 파네시아의 CXL 탑재 AI 클러스터는 자사 주요 제품인 CXL 3.1 스위치와 CXL 3.1 IP를 활용해 구축한 프레임워크로, 대규모 데이터를 저장하는 CXL-메모리 노드와 기계학습 연산을 빠른 속도로 처리하는 CXL-GPU 노드가 CXL 3.1 스위치를 통해 연결되는 형태다.

메모리를 확장하고 싶다면 오직 메모리와 메모리 확장을 위한 CXL 장치들만 추가로 장착해주면 되며, 따라서, 기타 서버 부품 구매에 불필요한 지출을 하지 않아도 되어 메모리 확장 비용을 절감할 수 있다. 이뿐 아니라 각 CXL 장치에는 파네시아의 초고속 CXL IP가 내재돼 메모리 관리 동작을 하드웨어로 가속해주는데, 이 덕분에 사용자는 빠른 성능을 누린다.

또한, CXL 3.1 표준의 고확장성 관련 기능 및 모든 타입의 CXL 장치에 대한 연결을 지원하는 파네시아의 CXL 스위치 덕분에, 수 백대 이상의 다양한 장치를 하나의 시스템으로 연결하는 실용적인 데이터 센터 수준의 메모리 확장이 가능하다는 것도 장점이다. 참고로, 해당 CXL 3.1 스위치는 내년 하반기에 고객사들에게 제공될 예정이다.

파네시아는 이번 전시회 기간 동안 본인들의 AI 클러스터 상에서 대규모 언어 모델(LLM, Large Language Model) 기반 최신 응용인 검색 증강 생성(RAG, Retrieval-Augmented Generation)를 가속하는 데모를 선보였다. 관계자의 설명에 따르면, 파네시아의 CXL 탑재 AI 클러스터를 활용할 경우, 기존의 스토리지·RDMA 기반 시스템 대비 추론 지연시간을 약 6배 이상 단축시킬 수 있다.

파네시아 관계자는 이번에 출품한 CXL 탑재 AI 클러스터에 대해 “구글, 마이크로소프트, 슈퍼마이크로, 기가바이트 등 OCP Global Summit 행사에 참석한 데이터 센터 관련 글로벌 기업이 많은 관심을 표하였다”며 “특히 서버를 제공하는 다수의 기업이 내년 하반기 고객사에게 제공 예정인 파네시아의 CXL 3.1 스위치 칩을 본인들의 서버 제품에도 도입하길 희망한다는 의사를 강력히 밝혔다”고 설명했다.

이어 그는 “엔비디아, AMD 등 GPU를 개발하는 기업에서도 많이 방문했는데, 이들은 파네시아의 CXL 3.1 IP를 활용해 GPU 장치에 CXL 을 활성화할 수 있다는 사실에 많은 관심을 보였다”며, “해당 기업들의 가속기 제품에 파네시아의 CXL IP가 탑재되는 미래를 기대해 본다”고 전하였다.

맺음말

파네시아는 이번 OCP Global Summit 행사 기간 동안, 출품 외에도 다양한 발표/외부 활동을 진행하였다. OCP Future Technology Symposium에서는 CXL을 GPU에 탑재하기 위한 설계 기술에 대해 발표했으며, Memory Fabric Forum 발표에도 연사로 초청돼 전 세계 전문가에게 AI를 가속하기 위한 최신 CXL 기술에 대해 소개했다.

파네시아 관계자는 “전시회 기간 동안 기존의 협업사뿐 아니라 다수의 신규 기업들과도 대면 미팅을 진행했다”며, “협업사·고객사 풀을 공고히 하는 동시에 확장할 수 있는 기회였다”고 감회를 밝혔다.

헬로티 서재창 기자 |