백준호 퓨리오사AI 대표 “이제는 성과를 보여 줄 시간”

“그동안 많은 투자를 받았으니 성과를 보여야 하지 않겠나”

백준호 퓨리오사AI 대표는 25일 서울 을지로 롯데호텔에서 열린 ‘AI 글로벌 컨퍼런스’에 참석, 발표 직전에 기자와 만나 회사를 메타에 매각하지 않고 독자생존을 결정한 이유를 이렇게 밝혔다.

컨퍼런스는 공교롭게도 퓨리오사AI가 메타의 인수합병 제안을 거절한 것으로 알려진 다음날 열렸다. 백 대표는 원래대로 ‘에이전트 기반 AI 서비스 구축을 위한 인프라 솔루션’을 주제로 발표했으나, 메타와의 인수합병 건에 더 관심이 쏠린 것도 사실이다.

성능 좋아도 전력 효율성 없으면 말짱 꽝

관심 속에서 백준호 대표가 발표를 통해 강조한 것은 ‘인프라 준비’ 문제다. 그는 컨퍼런스에서 “추론 시장은 폭발적으로 성장하고 있으나 인프라 구조가 준비되지 않은 상태”라고 주장했다. 그는 “근본적으로 (AI 반도체의) 에너지 소비가 너무 크다는 문제를 해결해야 한다”고 덧붙였다.

백 대표는 AI 반도체 회사가 고성능 하드웨어를 만드는 것도 중요하지만, 확장성과 효율을 높이고 쉽게 배포할 수 있는 솔루션을 만드는 게 도전 과제라고 언급했다.

백 대표는 발표 내내 효율의 중요성을 강조했다. 아무리 성능이 좋은 칩이라도 전력 소모량이 높으면 비용 효율이 떨어진다는 이야기다.

그는 “HBM3를 장착한 자사 칩은 512TFLOPS(테라플롭스)만큼의 성능을 내지만 소모 전력량은 180W(와트)밖에 되지 않는다”고 밝혔다. 이어 “경쟁사 동급 제품은 전력을 300W가량 사용한다”며 “퓨리오사AI 제품을 사용하면 에너지 비용을 크게 절감할 수 있다”고 주장했다.

발표에 따르면 퓨리오사AI의 2세대 칩은 고객사와의 샘플링을 진행하는 단계에 있다. 또한 현재 많이 사용하는 ‘라마’ 모델을 기준으로 최적화하는 중이며, 향후 고객사에서 운영하는 서비스에 맞춰 최적화도 가능해질 전망이다.

“하드웨어 제대로 활용하려면 소프트웨어도 중요해”

이 자리에는 김광정 리벨리온 사업총괄도 참여, 회사 현황을 발표했다. 김 사업총괄은 “리벨리온도 AI 소프트웨어 분야에 많은 투자와 지원을 하는 중”이라고 강조했다.

김 총괄은 최근 AI 업계를 강타한 딥시크부터 언급했다. 지난 1월 등장한 중국 AI 서비스 딥시크는 순식간에 앱스토어 인기 앱 1위를 차지했다.

상위권 앱 중에는 딥시크 외에도 오픈AI 챗GPT와 구글 제미나이가 들어있었다. 김 사업총괄은 “전체 앱 순위에 AI 서비스가 이만큼 포함된 건 이제 일반인도 누구나 AI 서비스를 사용하는 단계에 온 것”이라며, “최근 범용 AI 에이전트라 부르는 ‘제너럴 에이전트’가 등장하기 시작하면서 에이전트 AI 시대로 발전해 나가는 중”이라고 현 상황을 분석했다.

그는 “일반적으로 에이전트 AI를 구축할 땐 소형언어모델(sLLM)을 원하는 서비스에 맞게 효율적으로 구현·운영하는 게 중요하다”며 “리벨리온은 AI 추론 부분에서 효율성을 높이고자 여러 인프라를 개발하는 중”이라고 밝혔다.

발표에 따르면 리벨리온은 현재 칩부터 카드, 서버, 랙까지 스케일을 조절할 수 있는 아키텍처를 개발하고 있다. 회사는 이를 위해 자체적으로 RSD(리벨리온 스케일러블 디자인)라 부르는 아키텍처를 디자인했다. 여러 NPU를 병렬 배치해 구성한 아키텍처다. 김 사업총괄은 “커스텀 RAG, 에이전틱 태스크, 일반 챗봇 서비스를 원활히 제공하게끔 소프트웨어 생태계 구축에 노력을 아끼지 않고 있다”고 언급했다.

그는 더욱 편한 추론 서비스를 제공하기 위해 ▲엔비디아 트리톤 인터페이스 서버를 통한 배포 방식 유지 ▲자사 칩 ‘아톰’으로 컴파일한 LLM 모델을 vLLM으로 배포할 수 있도록 전용 패키지 제공 ▲쿠버네티스에서 리벨리온 NPU를 사용하는 플러그인 제공 등의 지원을 추진했다고 알렸다.

현재 리벨리온 홈페이지에서는 리벨리온 NPU로 구동 가능한 AI 모델을 다운로드해 써볼 수 있다. 여기에는 최근 주목받은 딥시크 R1을 비롯해 KT 믿음(Mi:dm), LG전자 엑사원 3.5 등 다방면으로 연구가 진행 중인 모델도 포함돼 있다.

글. 바이라인네트워크

<이병찬 기자>bqudcks@byline.network