
인공지능(AI)의 경쟁력은 더 이상 모델이나 데이터만으로 결정되지 않는다. 진정한 차별화 요소는 컴퓨팅 리소스의 전략적 확보와 배치, 즉 AI 컴퓨팅 파워에 달려 있다. 이에 정부는 국가 AI 컴퓨팅 센터를 통해 대규모 GPU 인프라를 구축하고 리벨리온과 퓨리오사AI 등 국내 AI 반도체 기업들과의 민관 협력을 통해 기반을 마련해 왔다. 이러한 진전은 컴퓨팅 주권 확보에 있어 중요한 이정표지만, 급변하는 기술 환경을 완전히 수용하기에는 여전히 보완이 필요하다.
초거대 언어모델(LLM, Large Language Model)과 생성형 AI의 확산은 단순한 대규모 학습을 넘어, 실제 서비스 환경에서의 실시간 처리 문제를 더욱 부각시키고 있다. 지연시간, 개인정보 보호, 에너지 효율, 로컬 연산 수요 등은 기존 인프라만으로 충분히 대응하기 어렵다. 특히 자율주행, 스마트 제조, 웨어러블 헬스케어 등에서는 즉각적 반응성과 현장 처리 역량이 핵심이므로 이러한 한계가 더욱 크게 드러낸다. 이 같은 배경에서 엣지 컴퓨팅은 클라우드를 보완하는 핵심 기술로 부상하고 있으며, 데이터 생성 지점 가까이에서 빠르고 안전하며 효율적인 AI 연산을 가능하게 한다.
엣지 컴퓨팅은 데이터를 클라우드로 보내기 전, 데이터가 발생하는 위치 근처에서 바로 처리하는 방식이다. 이에 따라 응답 속도는 빨라지고, 민감한 데이터는 외부 전송 없이 보호할 수 있다. 예컨대 애플의 A17 Pro 칩은 고성능 NPU(Neural Processing Unit)를 탑재해 이미지·음성 인식을 스마트폰에서 직접 수행한다. 테슬라는 차량 내 엣지 연산을 통해 실시간 자율주행 판단을 하고, 글로벌 제조 디지털전환 기업인 지멘스는 스마트팩토리에서 센서 데이터를 현장 장비에서 분석해 생산 효율을 높이고 있다.
이처럼 엣지는 클라우드를 대체하기보다는 보완하는 기술이다. 클라우드는 대규모 AI 모델 학습, 데이터 저장에 강점을 가지며, 엣지는 실시간 추론과 현장 의사결정에 최적화돼 있다. 두 축을 연결한 하이브리드 시스템은 AI 기술의 응답성과 확장성을 동시에 확보할 수 있는 구조로 자리 잡고 있으며, 이는 글로벌 기술 전략의 표준이 되고 있다. 아마존의 그린그라스(Greengrass), 마이크로소프트의 아주르스택엣지(Azure Stack Edge), 구글의 안토스(Anthos) 등이 이를 대표한다.
국내에서도 클라우드-엣지 연계 전략은 빠르게 추진되고 있다. 삼성전자는 모바일용 엑시노스 NPU 성능을 강화하고, LG전자는 스마트가전에 온디바이스 AI(On-Device AI)를 적용 중이다. 네이버는 하이퍼클로바X와 자사 클라우드 인프라를 연계해 연산 최적화를 실험하고 있다. 리벨리온과 퓨리오사AI는 서버급 칩과 더불어 엣지 전용 칩 개발에도 나서고 있으며, 정부는 '온디바이스 AI 활성화 정책'을 통해 R&D 세액공제, 오픈 API 개발, 테스트베드 확산 등 제도적 기반을 확대 중이다.
이러한 기술 흐름을 제도적으로 정렬하고 체계화하는 일이 중요하다. 클라우드 기반 컴퓨팅 센터는 고정밀 학습 및 국가전략 자원의 기능을 맡고, 엣지 인프라는 산업 현장과 공공서비스 등 실시간성이 요구되는 곳에 배치되어야 한다. 전국 지자체가 AI 컴퓨팅 센터 유치에 나서고 있는 지금, 중앙-지역 간 기능 분담과 연계 전략이 더욱 정교해져야 한다. 수도권은 클라우드 중심, 지역은 스마트시티·공장 등 엣지 중심으로 특화된 전략 구성이 필요하다.
AI 인프라 전략은 이제 단순한 하드웨어 경쟁을 넘어, 기술·정책·인재·산업·데이터 거버넌스가 통합된 구조로 설계되어야 한다. 클라우드와 엣지를 유기적으로 연결하는 연산 구조 위에 민관 협력과 지역 균형 발전이 맞물리는 입체적 국가전략이 요구된다. 유럽연합(EU)의 디지털 주권 전략, 미국의 반도체 법(Chips Act), 중국의 반도체 내재화 전략 등 세계 각국도 연산력의 자립과 분산을 핵심 전략으로 삼고 있다.
한국은 지금 기술력, 정책 방향, 생태계 역량이 동시에 정렬될 수 있는 결정적 순간에 와 있다. 클라우드와 엣지, 중앙과 지역, 대기업과 스타트업이 하나의 전략 아래 연결될 때, 우리는 기술 주권을 확보하고 AI 3대 강국으로 도약할 수 있다.
그 미래는 선택이 아니라, 준비된 국가만이 선점할 수 있는 기회다
김태형 단국대 대학원 데이터지식서비스공학과 교수·정보융합기술·창업대학원장