AI 학습·추론 ‘범용 칩’ GPU와 달리
NPU는 추론 특화···수요 갈수록 커져
퓨리오사AI 등 국내 기업 성장세 주목
정부·기업이 엔비디아 그래픽처리장치(GPU) 26만장을 도입하기로 하면서 토종 인공지능(AI) 반도체 기업들이 개발하는 신경망처리장치(Neural Processing Unit·NPU)의 향방에도 관심이 모인다. 정부는 대규모 AI 학습에 시급한 GPU를 확보하되, 국내 NPU 시장도 함께 육성하는 ‘투트랙’ 전략을 추진한다는 방침이다.
NPU는 인간의 두뇌 신경망을 모방한 AI 반도체다. 수많은 신경세포가 서로 연결돼 신호를 주고받으면서 동시에 정보를 처리하는 방식과 유사하다. 특히 NPU는 학습을 끝낸 AI 모델로 실제 서비스를 운영하는 단계인 추론 연산에 특화돼 있다. GPU보다 전력 효율성이 높다는 게 최대 강점이다.
국내에선 리벨리온과 퓨리오사AI, 딥엑스, 모빌린트 등이 NPU를 개발한다. 리벨리온과 퓨리오사AI는 데이터센터 서버 시장, 딥엑스와 모빌린트는 온디바이스(기기 내장형) 시장이 주 무대다.
GPU는 AI 학습과 추론 모두에 활용되는 범용 칩이다. 방대한 데이터를 빠르게 학습시키는 과정에서 GPU는 필수적이다. 하지만 가격이 비싸고 전력 소모가 크다는 단점이 있다. AI 추론 시장이 확대될수록 비용 효율성이 중요해지면서 NPU 수요가 커질 것이라는 관측이 나온다. AI 서비스 기업 입장에선 운영비 절감이 곧 수익성과 직결되기 때문이다.
하정우 대통령실 AI미래기획수석은 지난달 31일 엔비디아 GPU 공급 관련 브리핑에서 “학습에 사용하기 위한 반도체로 엔비디아 GPU가 너무 많이 필요한 게 사실”이라고 말했다. 그러면서 “2년, 3년, 5년, 10년 후를 봤을 때 국내 AI 반도체 내재화 역량을 키우는 게 중요해 투트랙으로 (정책을) 진행한다”고 말했다.
대규모 실증과 수요 창출 지원이 뒤따라야 할 과제로 꼽힌다. 하 수석은 “확보한 GPU로 강력한 AI를 만들고 산업 현장이나 자동차에서 학습된 AI를 운영할 땐 전력과 가격 경쟁력이 있는 국내 NPU 기업들의 역할이 중요해질 것”이라고 했다.
업계는 향후 추론 시장에서 일정 부분 엔비디아와 경쟁이 가능할 것으로 보고 있다. 리벨리온 관계자는 “2~3년 후쯤 챗GPT 외에도 다양한 AI 서비스가 실생활에서 체감될 정도로 확산하면 NPU 수요가 많아질 것으로 본다”며 “GPU만으로 감당하지 못하는 시장이 분명히 생길 것으로 예상한다”고 말했다.
