'GPU 비용 80% 절감' 베슬AI, GTC서 AI 운영 최적화 방안 발표

자사 기술 적용해 실질적인 성과 거둔 다양한 산업 사례 소개

베슬AI가 세계 최대 AI 행사에서 글로벌 기업들과 어깨를 나란히 했다.

베슬AI는 미국 캘리포니아주 새너제이에서 개최된 'GTC(GPU Technology Conference) 2025'에 참가해 엔비디아와의 기술 협력 성과를 선보이고 글로벌 네트워크를 확장했다고 21일 밝혔다. 엔비디아가 주최한 이번 행사에는 아마존, 구글, 마이크로소프트 등 300여 개 글로벌 기업이 참여해 AI 관련 최신 기술과 제품을 선보였으며, 10만 명 이상의 참가자가 모였다.

베슬AI는 이번 GTC에서 엔비디아 NIM(NVIDIA Microservice Infrastructure)과 네모(NeMo) 기술을 자사 플랫폼에 통합한 사례를 중점적으로 공유했다. 이번 기술 통합으로 AI 개발자는 Llama 3.1을 포함한 다양한 LLM(대규모언어모델)을 간편하게 배포하고, 네모 큐레이터의 데이터 관리 기능을 효율적으로 활용하게 됐다. 특히 베슬AI는 MLOps, LLMOps 기술을 토대로 기업이 AI 모델 학습과 운영 과정에서 직면하는 인프라 관리와 리소스 최적화 문제를 효과적으로 해결할 수 있는 솔루션을 제공한다는 점에서 주목받았다.

베슬AI는 행사 기간 동안 자사 기술을 적용해 실질적인 성과를 거둔 다양한 산업 사례를 소개했다. GPU 컴퓨팅 비용을 최대 80% 절감하고 AI 모델 배포 시간을 몇 주에서 수 분으로 단축한 금융, 제조, 모빌리티 분야의 사례들이 대표적이다. 또한, 기업용 AI 상담 시스템에 RAG 기술과 오케스트레이션 에이전트를 적용해 서비스 처리 속도를 20% 향상하고 응대 품질을 개선한 사례도 선보여 방문객의 관심을 끌었다.

기술 성과 발표 외에도 베슬AI는 GTC 기간 중 전략적 네트워킹 활동을 통해 글로벌 입지를 강화했다. 미국 사업 개발을 이끄는 오예슬 총괄은 '차세대 혁신 : 미래 기술을 이끄는 스타트업들' 주제의 패널 토론에 참여했다. 이 세션에서는 ABC 방송 투자 프로그램 '샤크탱크(Shark Tank)'의 패널로 유명한 로버트 허자베크(Robert Herjavec)를 비롯한 글로벌 스타트업 창업자가 함께했다.

패널 토론에서는 글로벌 시장 진출 전략, 현지 파트너십 구축, 문화적·운영적 도전 과제가 논의됐으며, 베슬AI의 실리콘밸리 AI 생태계 경험이 주목을 받았다. 행사 2일 차에는 베슬AI가 AI 인프라 기업인 시라스케일, 레코그니와 함께 네트워킹 리셉션을 공동 주최했다. 이 자리에서는 시라스케일의 고성능 클라우드 컴퓨팅 서비스, 레코그니의 저전력·고성능 AI 추론 칩, 베슬AI의 MLOps 플랫폼이 결합된 AI 인프라 스택 전반의 기술 혁신과 협업 가능성이 논의됐다.

베슬AI는 이번 GTC 참가와 지난 2월 '엔터프라이즈 AI 생태계 구축' 주제로 진행한 오라클·엔비디아와의 공동 밋업을 통해 AI 오케스트레이션 구현을 가시화할 계획이다. AI 인프라와 애플리케이션을 연결하는 전문 역량을 기반으로, AI 에이전트의 개발-배포-운영의 전 단계를 일원화하는 플랫폼을 제공할 예정이다. 이를 통해 온프레미스와 클라우드 환경의 AI 자원을 통합 관리하고, 다양한 AI 모델 협업을 지원해 엔터프라이즈급 비즈니스 솔루션으로 발전시킨다는 구상이다.

안재만 베슬AI 대표는 "이번 GTC 참가는 글로벌 AI 시장에서 베슬AI의 기술력을 알리는 중요한 계기였다"며 "엔비디아와의 협업을 통해 기업들이 다양한 AI 모델을 체계적으로 통합하고 관리하는 오케스트레이션 솔루션을 제공해 산업별 맞춤형 AI 시스템 구축을 가속화하고 기업의 디지털 혁신을 앞당기는 데 기여하겠다"라고 밝혔다.

국내 AI 스타트업이 세계 최대 AI 무대에서 글로벌 기업들과 어깨를 나란히 하며 기술력을 인정받았다는 점에서, 베슬AI의 이번 GTC 참가는 한국 AI 기업의 글로벌 경쟁력을 보여주는 의미 있는 사례로 평가된다.

헬로티 서재창 기자 |