롯데이노베이트(대표 김경엽)는 그래픽처리장치(GPU)의 자원 관리와 인공지능(AI) 모델 개발 환경을 제공하는 통합 AI 개발 플랫폼 ‘인피디아 스튜디오(INFIDEA Studio)’을 선보였다고 27일 밝혔다.
이는 생성형 AI 개발이 늘어남에 따라 고성능 GPU의 활용성이 높아지고 있기 때문이다.
인피디아 스튜디오에서는 클라우드 기반 서비스로, AI 모델 개발에 필요한 고성능 GPU를 유연하게 할당 받아 사용할 수 있다. 또 개발에 필요한 주피터랩(JupyterLab) 등 다양한 작업도구를 ‘웹 브라우저(Web UI)’기반으로 제공해 편의를 돕는다. 이 플랫폼은 AI 모델의 개발부터 배포, 추론까지 모든 과정을 지원하는 머신러닝운영(MLOps)을 지향한다.
고객사는 인피디아 스튜디오를 이용해 고가의 GPU를 적정 수량만 사용할 수 있게 함으로써 운영 비용을 대폭 절감할 수 있다. 또 다양한 AI 개발 프레임워크(Framework)와 GPU 가속기 버전을 설정할 수 있어 맞춤형 개발 환경도 구성할 수 있다.
인피디아 스튜디오는 엔비디아의 MIG(Multi-instance GPU) 기술을 활용해 하나의 GPU를 여러 개의 작은 단위로 나눠 사용할 수 있도록 했다.
이를 통해 관리자는 GPU의 사용률을 극대화하고, CPU와 RAM의 성능도 설정하는 등 다양한 컴퓨팅 리소스 프리셋을 구성할 수 있어 한정된 자원을 최적화할 수 있다. 중요한 프로젝트에 필요한 자원을 우선적으로 할당할 수 있다.
이 플랫폼은 스토리지 기능을 통해 대규모 데이터 처리에 적합한 GDS(GPU Direct Storage)와 연동 기능을 제공한다.
IBM 스토리지 스케일(Storage Scale), 웨카(Weka) 등과 같은 다양한 GDS 벤더사 지원이 가능하며, 사용자 요구사항에 따라 NAS(Network Attached Storage)와 같은 일반적인 스토리지도 지원한다. 또 다수의 개발자가 함께 학습 및 산출 데이터를 공유할 수 있도록 스토리지도 공유할 수 있는 기능을 제공한다.
향후 추론 API(Application Program Interface) 자동 배포 기능을 지원할 예정이며, 개발자 간 협업을 위한 다양한 보조 도구도 확대해 나갈 예정이다.
플랫폼 구축 측면에서는 온프레미스(On-premise) 환경뿐 아니라 다양한 클라우드 기반의 마켓플레이스 형태로 확장할 계획이다. 이를 통해 AI 개발 인프라 구축에 어려움이 있는 기업이나 개발자가 손쉽게 개발환경을 구축할 수 있도록 지원할 예정이다.
김민지 기자 honest@datanews.co.kr
[ⓒ데이터저널리즘의 중심 데이터뉴스 - 무단전재 & 재배포 금지]
