[바스리] “AI 경량화? 그게 뭐 하는 건데?”(feat.노타)

바이라인네트워크에서 스타트업을 리뷰합니다. 줄여서 ‘바스리’. 투자시장이 얼어붙어도 뛰어난 기술력과 반짝이는 아이디어, 새로운 비즈니스 모델을 가진 스타트업은 계속해 탄생하고 있습니다. 세상을 깜짝 놀라게 하겠다고 출사표를 던진 이들을 바이라인의 기자들이 만나봤습니다.

경기도에서 서울로, 꽉 막히는 도로를 통과해 출퇴근하는데 주로 차를 이용하는 이에게 ‘슈퍼카’는 크게 필요가 없죠. 뻥뻥 뚫리는 도로를 매우 빠른 속도로 달릴 일이 거의 없잖아요. 괜히 비싸기만 할 뿐이죠. AI도 그렇습니다. 모든 회사가 빅테크처럼 거대한 언어모델을 개발할 일도, 운영할 필요도 없죠. 각자의 필요에 맞게 적은 데이터와 비용으로 모델을 줄여 쓸 수 있다면 그게 효율성으로는 최고니까요.

목적에 맞게, AI를 맞춤화하는 걸 AI 최적화라고 부릅니다. 그중에서도 ‘노타’라는 스타트업은 ‘AI 경량화 기술’을 핵심으로 갖고 있는데요. AI 모델이 전력을 적게 먹고 더 빨리 구동되도록 크기를 작게 만드는 걸 뜻합니다. 이게 왜 필요하냐면, 요즘은 스마트폰과 같은 작은 하드웨어에서도 자체적으로 AI를 돌리잖아요. 이런걸 ‘온디바이스 AI’라고 합니다. 이런 작은 하드웨어에서는 커다란 서버처럼 GPU를 마구 쓸 수 없죠. 예컨대, 이런 작은 기기에서도 필요한 AI 성능을 충분히 쓸 수 있도록 AI 모델의 크기를 변환하는 거죠.

노타 이야기를 꺼내는 이유는, 이 회사가 만든 지능형 교통 체계 시스템(ITS)이 최근 국토교통부로부터 ‘최상급’이라는 성적을 받아들었기 때문입니다. 노타는 AI 경량화 기술을 갖고 크게 두 가지 일을 합니다. 하나는 AI 모델 최적화 플랫폼 ‘넷츠프레소(NetsPresso)’를 만드는 거고요. 또 하나는 온디바이스 AI 솔루션을 개발합니다. 이 솔루션을 여러 산업의 영역에 적용 중에 있는데요. 그중 하나가 지능형 교통 체계 시스템입니다.

지능형 교통 체계 시스템은?

국토교통부 주관 스마트교차로 시스템 기본 성능 평가는 차량 감지 영상 장비가 교차로에서 방향별 교통량, 차종 분류, 대기 행렬 교통량을 얼마나 정확히 감지하는지 측정합니다. 이 평가에서 정확도 95% 이상을 기록할 경우 최상급 등급이 부여되는데요, 노타에 따르면 이 회사의 시스템은 모든 평가 항목에서 99% 이상을 기록했다고 합니다.

구체적으로, 이 시스템이 무슨 일을 하는지 볼까요? CCTV에 최적화한 AI 를 적용해 교통 정보를 효율적으로 분석하는 일을 합니다. 교통량, 혼잡도 등을 실시간으로 수집하고 이에 따라 교통 흐름을 개선하는 거죠. 노타 측은 “열악한 기상 조건에서도 정확한 교통 정보를 수집할 수 있는 기술력을 갖췄다”고 말합니다. 이렇게 되면 “교통 관리 비용을 획기적으로 절감할 수 있어” 지자체에서도 호응이 있다고 하는데요. 현재 대전광역시, 제주시, 평택시 등을 비롯해 국내 광역시의 200여 개 교차로에 스마트교차로 시스템을 운영하고 있다고 합니다.

이런 기술을 굳이 국내에만 공급할 이유는 없죠. 판로만 열린다면, 수출하면 더 좋을테니까요. 노타는 그 문을 현재 두드리고 있는데요. 중동 지역에서는 교통 인프라 기업 ATS, 두바이 교통국과 협력해 현지 교통 혼잡을 완화하고 도로 관리의 비용 효율성을 높이는 PoC(Proof of Concept, 개념검증) 프로젝트를 추진 중에 있습니다.

여기서 조금 더 흥미로운 점이 있습니다. 기존에 나왔던 교통체계 분석 딥러닝 모델은 대체로 자동차의 이동 흐름을 파악하는 것에 초점이 있었는데요. 만약 자동차가 겹쳐 있는 사진을 보게 된다면 이 차량들이 사고가 난건지, 어떠한 이유로 차가 겹친 사진이 만들어졌는지 그걸 알기 어렵다는 한계가 있었죠. 사고 감지와 같은 고도의 기능을 풀어내기 어려웠는데요.

그런데 지능형 교통 체계에 들어간 모델은 ‘VLM(비전-언어모델)’입니다. 언어모델(LM)이 말로 맥락을 파악하고 답을 주는 것처럼, 사진이나 영상을 가지고 맥락을 이해하고 사람처럼 인지할 수 있게 한 겁니다. 사람이 현장을 눈으로 보면서 “아, 이거 사고 구나”를 아는 것처럼 AI 모델도 사진이나 영상을 보고 사고 여부를 판단 할 수 있는 단초가 열린 거죠.

정말 원하는 것은 ‘플랫폼’

노타가 궁극적으로 밀고 싶어하는 것은, AI 경량화 모델을 일정한 품질로 만들어낼 수 있는 플랫폼 ‘넷츠프레소’입니다. 노타의 경영진은 약 3년 전, 애플이 인수한 AI 기업 ‘엑스노어’의 최고경영자와 인터뷰할 기회를 가졌는데요. 당시에 한 핵심 질문 중 하나가 “만약 과거로 돌아간다면 무엇을 다르게 해 볼 것이냐”였고, 그 답으로 “최적화 플랫폼을 만들고 싶다”를 들었다고 합니다.

왜 최적화 플랫폼일까요? 이유는 ‘품질 보증’ 때문입니다. 솔루션 업체가 각자 고객의 요청에 따라 AI 최적화를 진행하는 것은, ‘품질 차이’가 난다는 근본적 문제가 있습니다. 최적화를 진행하는 개발자의 역량에 따라 결과물의 편차가 크게 나기 때문에 품질 콘트롤이 안 된다는 것이죠. 그런데 플랫폼을 만들게 되면 품질 편차의 문제를 해결할 수 있고, 자원의 효율성 역시 개선할 수 있겠다고 본 것입니다. 마침, AI 최적화와 관련해서 솔루션 공급과 플랫폼을 동시에 하는 회사가 매우 드무니, 노타가 이 시장을 선점하자는 생각을 했고요.

따라서 노타는 미래의 먹거리는 ‘플랫폼’에서 찾을 것으로 예상하면서, 현재는 솔루션 공급에 중점을 두고 수익을 만들어내는 전략을 취하고 있습니다. 반도체 업계의 큰 손인 암이나 르네사스와 같은 해외 반도체 대기업과 파트너십을 맺고 실제 매출을 내는 계약을 통해 납품을 진행하기도 했다는 점은 긍정적으로 볼 수 있는 부분입니다. 이 회사 조석영 노타 최고스태프책임자에 따르면 “지난해 매출은 80억~90억원 수준으로 지난 3년간 매출 평균 성장률이 250%”라고 합니다.

노타는 올해 기술특례상장을 준비 중입니다. 지난해 연말, 상장을 위한 기술성 평가를 통과했는데요. 최근 기업공개 평가가 엄격해진 분위기에서 노타가 계획대로 잘 상장할 수 있을지, 기술 기업으로 매출을 지속 성장시키면서 국내외에서 존재감을 가지고 커나갈 수 있을지 관심을 갖게 됩니다.

글. 바이라인네트워크

<남혜현 기자> smilla@byline.network