KT그룹의 정보기술(IT)서비스 전문기업 kt ds(대표 이상국)는 AI 사전검증(PoC)을 지원하는 서비스형소프트웨어(SaaS)형 서비스 'ABC 랩'을 출시했다고 12일 밝혔다.
'ABC Lab'은 기업 고객들이 AI 도입 시 겪는 비용, 보안, 인력 등에 대한 다양한 고민을 해결해 주는 MS 에저 기반의 SaaS형 서비스다. PC만 있으면 고성능 그래픽처리장치(GPU) 인프라에서 운영되는 생성형 AI 솔루션을 온라인에서 저비용으로 손쉽게 이용할 수 있다.
고객은 'ABC Lab'을 통해 자사 데이터에 직접 AI 아이디어를 적용해 사전 검증하고, AI 적용 가능성과 효과를 미리 파악한다. 온·오프라인으로 수행한 PoC는 성공적인 AI 혁신을 도와 기업의 성과를 극대화 한다.
'ABC Lab'은 △다양한 대규모언어모델(LLM) 체험 △고객사에 특화된 LLM 파인튜닝 지원 △강력한 보안 및 데이터 관리 기능 등을 갖췄다.
'LLM 체험'에는 한국어 처리에 특화된 kt ds의 자체 오픈소스 모델인 'ktdsbaseLM', MS 에저의 ChatGPT 등 상용 모델 뿐만 아니라, 메타의 'Llama' 등 각종 오픈소스 모델까지 포함한 여러 LLM을 제공한다.
고객사의 데이터로 AI 모델을 훈련하는 파인튜닝 서비스로 고객사만의 맞춤형 LLM 모델을 만들어 지원한다. 데이터 분리가 가능한 멀티 테넌시 기능과 KT그룹의 엄격한 보안 규정을 적용해 기업의 데이터와 고객의 개인정보를 안전하게 관리하고 보호한다.
이 외에도 생성형 AI가 잘못된 정보로 생성하는 환각 효과를 줄이고, 답변의 정확성을 높이기 위해 검색증강생성(RAG) 방식이 결합된 서비스를 운영한다. 고객사의 정형·비정형 데이터를 RAG에 연결해 더 정확한 답변을 생성하도록 돕는다.
김성우 kt ds 기술혁신단장은 “통신, 금융, 공공 등 다양한 산업 도메인에서 성공적인 디지털 전환(DX) 경험을 바탕으로 AX 솔루션과 AI 기술 역량을 결합해 AI 도입에 필요한 체계적인 사전 시스템과 플랫폼을 구축했다”며 “높은 투자 비용과 사내 전문가 부재로 AI 도입을 주저하는 기업이라면 'ABC Lab'의 온·오프라인 PoC가 성공적인 AI 도입에 큰 도움이 될 것”이라고 강조했다.
이경민 기자 kmlee@etnews.com
