개인AI 시대, 내가 연다…발톱 세운 ‘손톱 반도체’

휴대폰·가전 속에 ‘쏙’…에지 반도체의 세계

경제+

스마트폰과 노트북에 내재된 인공지능(AI)이 알아서 문서 정리와 번역을 마쳐 놓고, 말만 하면 가전이 뭐든 해결해 준다. 공상과학(SF) 영화·드라마에서 숱하게 봤던 그 장면이다. 이제는 픽션이 아닌 현실로 바뀌고 있다. 점점 똑똑해지는 AI 덕분인데, 그 뒤에 숨은 주역이 있다. 말단(edge)에서 쉬지 않고 일하는 에지 반도체 얘기다. 수십억 개 기기에 탑재될 거대한 반도체 칩 시장이 열렸지만, 엔비디아도 아직 패권을 잡지 못한 ‘춘추전국시대’ 상태라는데…. 치열한 경쟁 속 ‘에지’ 있는 미래가 궁금하다면.

◆손안에 있는 작고 빠른 반도체=AI 시대, 반도체는 더 바빠졌다. 언제, 어디서나 방대한 양의 데이터를 검토해 복잡하고 어려운 연산을 신속·정확하게 처리해야 한다. 가장자리라는 뜻의 ‘에지’(edge)가 붙은 AI 반도체는 데이터 생산지와 가장 가까운 네트워크에서 일한다. 일반적으로 AI 반도체가 데이터센터, 클라우드 컴퓨팅 설비 등 중앙 서버에서 각지의 데이터를 끌어와 처리하는 것과 다르다. 스마트폰·가전 등 소규모 개별 기기에 에지 반도체를 장착하거나 아파트 단지, 통신 기지국 등 가까운 네트워크에 에지 서버를 두고 가동하는 방식이다.

에지 반도체는 거대언어모델(LLM)을 돌려야 하는 클라우드용 반도체보다 데이터 처리량 등에서 상대적으로 역량이 떨어진다. 대신 크기가 동전만큼 작고 전력 소비도 적어 기기 안으로 들어갈 수 있다는 게 장점이다. 별도 냉각장치가 필요 없을 정도로 열도 많이 나지 않는다. 스마트폰·노트북 같은 전자기기는 물론, 냉장고·TV 등 가전제품, 자동차·로봇 등 일상의 모든 기기 안에 탑재 가능하다. 수천만원에 달하는 클라우드용 반도체, 그래픽처리장치(GPU)와 달리 에지 반도체는 1만~10만원 정도의 가격도 나올 만큼 저렴하다.

소형언어모델(SLM)이 나온 것도 에지 반도체 개발 경쟁을 가속화하는 요인이다. 이제는 10억~50억 파라미터(AI 연산에 쓰이는 매개변수) 정도로도 돌릴 수 있는 AI 모델이 마이크로소프트(MS)·메타 등에서 줄줄이 나오고 있다. 반도체 기술도 받쳐줬다. 원래 그래픽 렌더링에 사용되던 GPU는 AI 연산을 위해 만들어진 것이 아닌 범용이었다. 즉 AI 맞춤형 반도체라고 보긴 어려웠다. 크고 발열도 심한 데다 비싸다. GPU보다 AI에 적합하면서도 전력 소모가 적은 기술에 대한 대안으로 신경망처리장치(NPU)가 나오기 시작했다. NPU는 AI 연산에만 집중한 반도체로 GPU보다 저전력·저발열 설계로 만들어졌기 때문이다. 특히 에지 AI 반도체는 에지 디바이스(기기) 안에 들어가야 하고, 전력을 적게 사용할 필요가 있기에 이에 맞는 NPU가 중요해졌다.

◆프라이버시 보장, 처리 속도도 ‘굿’=국제프라이버시전문가협회(IAPP)의 보고서에 따르면, 전 세계 AI 소비자 중 57%는 AI가 개인정보를 위협할 가능성이 있다고 답했다. 사적인 데이터를 기업의 클라우드로 보내는 일, 아무래도 찜찜할 수밖에 없다. 개별 기기 안에서 데이터를 처리하는 에지 반도체는 이런 우려를 해소해줄 수 있다. 전자기기 하나하나가 에지 반도체를 통해 스스로 학습하고 추론한다면, 사용자 데이터는 집 밖으로 나갈 일이 없다.

끊기지 않는 빠른 데이터 처리 속도 역시 에지 반도체의 강점이다. 이혁재 서울대 전기정보공학부 교수는 “기존 클라우드에서 돌리던 정도와 비슷한 성능을 에지 반도체에서 구현한다면, 굳이 클라우드까지 가지 않아도 에지 단계에서 처리하는 게 시간과 비용을 줄일 수 있다”고 설명했다. 자율주행, 스마트 팩토리, 헬스케어 등 안전이 중요한 분야에서 에지 반도체는 사고 예방에 유리하다. 추론까지 시간이 걸리는 클라우드용 반도체와 달리 에지 반도체로는 이상 징후가 발견되자마자 즉시 전력을 차단하는 등 빠른 조치가 가능해서다.

전력 소모도 적다. 반도체가 탑재되는 기기의 배터리 소모를 최소화해야 하기 때문이다. 보통 10~20W(와트) 사이를 쓰는데, 1W 이하도 있다. 10W면 일반 전구 수준이다.

무엇보다 엔비디아 GPU가 꽉 잡고 있는 클라우드용 반도체 시장과 달리, 에지 반도체 시장에는 아직 ‘지존’이 없다. 퀄컴·애플이 강자로 꼽히긴 해도 엔비디아 GPU만큼 절대적이지는 않다. 더구나 애플은 에지 반도체를 자사 제품용으로만 만들고 있다. 안기현 반도체산업협회 전무는 “에지 반도체를 주도하는 기업은 아직 글로벌 시장에서 나타나지 않았다. 인텔·AMD 등이 PC 안에 넣을 에지 반도체를 개발하고 있지만 시작 단계”라고 말했다.

◆춘추전국시대, 에지 반도체 시장= 패왕의 자리에 도전하는 빅테크와 스타트업들이 다수 있다. 스마트폰 절대 강자인 퀄컴은 AI폰, AI PC의 주도권을 잡고 있다. 삼성전자의 갤럭시 스마트폰, MS 노트북에 들어가는 스냅드래곤 칩을 만들고 있기 때문이다. 데이터센터용 GPU의 최강자, 엔비디아도 에지 반도체를 만든다. 에지 컴퓨팅을 위한 플랫폼인 ‘젯슨’ 시리즈를 선보이고 있다.

스마트폰과 노트북에 ‘갤럭시 AI’를 장착 중인 삼성전자에도 에지 반도체는 필수다. 박봉일 삼성전자 상무는 지난달 20일 열린 ‘2024 인공지능 반도체 미래기술 컨퍼런스’에서 “삼성전자는 클라우드(데이터센터)와 온 디바이스(에지) AI로 양분된 AI에서 벗어난 ‘AI SoC’(시스템 온 칩, CPU·GPU·메모리 등 다양한 컴퓨터 구성 요소를 하나의 칩에 통합한 것)가 필요하지 않을까 생각하고 있고, 내부적으로 계속 연구 중이다”고 했다.

K-스타트업들도 도전하고 있다. 애플 엔지니어 출신 김녹원 대표가 창업한 딥엑스는 버터도 녹지 않을 정도로 발열이 적은 AI 반도체를 개발해 단숨에 유명해졌다. 김녹원 대표는 “‘올인올온’(All in All on) 전략으로 글로벌 반도체 기업 생태계를 따라가는 게 목표”라고 말했다. ‘올인올온’이란 저전력, 고성능 AI 반도체를 통해 모든 카메라와 스마트 모빌리티, 스마트 팩토리 분야 기술을 AI 기반으로 바꾸는 전략이다.

신동주 대표가 이끄는 모빌린트는 에지 반도체 ‘레귤러스’와 온프레미스(설치식) 에지 서버인 ‘에리스’를 개발했다. 레귤러스는 드론·로봇·폐쇄회로(CC)TV 등의 시장을 타깃으로 삼고 있고, 에리스는 스마트 팩토리나 스마트시티 등 보다 높은 AI 성능을 필요로 하는 시장을 노리고 있다. 신 대표는 “하드웨어 아키텍처, 컴파일러(AI와 반도체를 중개하는 역할을 하는 소프트웨어) 설계, 알고리즘 경량화 기술 등 모든 기술을 통합해 반도체 효율을 높이고 있다”고 했다.

페블스퀘어는 IBM에서 반도체 공정을 개발했던 전문가인 이충현 대표가 설립했다. 이 회사가 개발한 ‘파파야’ 칩의 크기는 가로, 세로 길이가 각각 5㎜로 손톱보다 작다. 또 다른 특징은 PIM(Processing-in-Memory) 기반이라는 점이다. PIM은 메모리와 프로세서 사이를 데이터가 오갈 필요 없이 메모리에서 직접 연산을 수행해 데이터 전송에 따른 지연과 에너지 소모를 줄이는 기술이다.

◆에지 반도체가 있는 미래가 오려면=칩만 만든다고 끝이 아니다. 개발자들이 칩을 잘 사용할 수 있게 소프트웨어(SW) 생태계를 조성해야 한다. 퀄컴의 경우 ‘퀄컴 AI 허브’를 지원한다. 스냅드래곤 플랫폼을 쓰는 개발자들이 온 디바이스(개별 기기) AI 앱을 만들 수 있도록 지원하는 플랫폼이다. 엔비디아의 AI 개발 플랫폼 쿠다(CUDA)처럼, 락인(Lock in·묶어두기)할 수 있는 SW 플랫폼과 생태계를 만드는 게 중요하다.

혁신의 최전선에서 비즈니스의 미래를 봅니다. 첨단 산업의 '미래검증 보고서' 더중플에서 더 빨리 확인하세요.