[헬로CHIPS] ‘혁신과 협업’으로 무장한 Arm, AI 시대 주도권 거머쥐다

Arm 제임스 맥니븐 클라이언트 사업부 부사장 인터뷰

지난 11월, Arm은 ‘미래를 재창조하다(Let's Reinvent the Future)’라는 주제로 연례 최대 행사인 ‘Arm 테크 심포지아’를 성황리에 개최했다. 국내에서 개최된 역대 행사 중 최대 규모로 열린 Arm 테크 심포지아는 AI 인프라 시장에 대한 자사의 의지가 강력히 드러난 자리였다. 이에 Arm 제임스 맥니븐(James McNiven) 클라이언트 사업부 부사장을 만나 Arm의 AI 시장을 바라보는 견해와 자사의 AI 인프라 경쟁력 그리고 기술에 대한 자부심을 확인해 봤다.

Arm은 그들의 혁신적인 기술 개발과 사업 영역 확장으로 영향력을 확대하고 있다. 특히 Arm은 전통적인 반도체 IP 기업을 넘어 컴퓨팅 플랫폼 기업으로서 반도체 업계 내에서의 가치와 자본력을 갖추고 있다. 더욱이 Arm은 반도체 설계 기술력과 전략적 사업 확장으로 산업 내에서 중추적인 역할을 담당하며, 앞으로도 그 영향력을 강화할 것으로 예상된다.

그런 Arm이 AI를 주목하고 있다. 제임스 맥니븐 부사장은 기조연설에서 “지금은 기술 역사상 가장 중요한 순간이다. 전 세계 사람의 삶을 변화시킬 AI 잠재력은 막대하다. 이를 실현하기 위해서는 에코시스템 협력이 무엇보다 중요하다”고 언급했다. 대표적으로, Arm 컴퓨팅 서브 시스템(CSS)과 Arm Total Design은 기업의 에코시스템 AI 개발을 가속화하는 데 기여하고 있다. 이에 Arm은 엔지니어링의 창의성과 개발의 새로운 장을 맞이하며, AI와 실리콘 혁신이 필요한 곳에 필요한 도구와 기술을 제공하고 있다고 밝혔다. 이하 내용에는 제임스 맥니븐 부사장과 나눈 인터뷰 전문을 담았다.

간단한 자기소개를 해주길 바란다.

나는 Arm 클라이언트 사업부 제품 관리 팀을 이끌고 있다. 스마트폰, DTV·STB, 메타버스, 게임 및 노트북·태블릿 시장에서 사용자 경험을 형성하는 컴퓨팅 플랫폼의 정의, 제공 및 성공적인 배포를 담당하고 있다. 이전에는 자사에서 CPU, GPU 및 시스템·소프트웨어 팀을 이끌기도 했다.

Arm 테크 심포지아 행사 개최를 축하한다. 이번 행사 주제에 담긴 의미와 강조하고 싶은 메시지는 무엇인지 궁금하다.

고맙다. 올해 Arm 테크 심포지아의 주제는 ‘미래를 재창조하기’다. 다시 말하면, 우리 앞에 놓인 기회를 어떤 방식으로 재창조할 것인가에 대한 물음이기도 하다. Arm 테크 심포지아는 자사와 파트너사를 위한 훌륭한 기회다. 여러 관계자가 네트워킹하고, 이를 통해 새로운 인사이트를 얻고 비즈니스를 계획하게 된다. 특히 우리가 주목하는 것은 AI다. 한 예로, 생태계를 구성함에 있어 하드웨어, 소프트웨어, 파운드리, 서드파티 IP 등 각각의 영역에서 전문적인 기술력이 요구된다. 이 같은 맥락에서 Arm은 확장 가능한 컴퓨팅 플랫폼을 제공해 파트너사, 고객사가 효율적으로 솔루션을 구축하도록 지원한다.

Arm이 바라보는 AI 인프라 시장에 대해 알고 싶다. 국가별·기업별 AI 인프라 투자가 확대되는 추세인데, 이 시장에서 Arm은 어떤 포지셔닝을 구상하는가?

커스텀 실리콘을 제조하는 대다수의 기업이 Arm의 기술에 기반한다는 건 자명한 사실이다. 한 예로, 기업은 Arm IP를 사용하거나 네오버스 CSS를 사용해 그 위에 커스텀 엑셀러레이터 가속기를 추가하는 방식을 택한다. 최근 발표된 리벨리온·삼성 파운드리·에이디테크놀로지와의 차세대 AI 컴퓨팅 칩렛 프로젝트도 마찬가지다. Arm CSS에 리벨리온의 IP 엑셀러레이터를 결합한 형태로 커스텀 설계를 진행한 사례다. 이처럼 우리는 확대되는 AI 인프라 시장에서 Arm Total Design과 같은 프로젝트로 고객사와 에코시스템 혁신의 혜택을 제공할 것이다.

앞서 언급했듯이 Arm은 에코시스템(Arm Total Design) 안에 있는 기업과 지속해서 협업하고 있다. AI 분야 내에서 Arm 시스템 기반 협력 사례를 늘려갈 것인지 궁금하다. 또한, 국내 시장에 대한 잠재력을 어떻게 평가하는가?

그렇다. 에코시스템을 확대하기 위해 지속해서 협력사를 늘려갈 계획이다. 특히 리벨리온이나 에이디테크놀로지가 그랬듯이 한국에는 국내외 여러 고객사와 협력하는 기업들이 있다. 이번 행사에서도 Arm과 협력해 다양한 솔루션을 시연하는 기업들을 확인할 수 있었을 것이다. 특히 AI는 다양한 워크로드 타입을 처리하기에, 새로운 방법론과 프레임워크, 데이터를 정량화하는 기법 등이 지속해서 변화하고 있다. 이는 한국 시장에서 성장할 기회가 많다는 것을 의미한다.

그렇다면, Arm이 AI 컴퓨팅 플랫폼을 정의하는 방식은 무엇이며, 해당 플랫폼이 갖춘 강점을 설명해주길 바란다.

Arm은 지금보다 더 많은 설계자산과 에코시스템을 만들고자 한다. 무엇보다 Arm 컴퓨팅 플랫폼은 폭넓은 AI 경험을 가능하게 하는 기반이 되고 있다. 하드웨어와 소프트웨어, 솔루션 등을 결합해 스마트폰, 오토모티브, IoT, 데이터 센터 등의 영역에 고도의 기술 솔루션을 제공한다. Arm 컴퓨팅 플랫폼의 강점을 꼽자면, 우선 일관성이다. 이는 플랫폼에 대한 개발자의 신뢰다.

다음은 개발자의 애플리케이션에 최적화한 성능을 제공하는 가속 기능이다. 이는 AI 지원 소프트웨어에 접근해 성능을 극대화하는 것과 연관된다. Arm은 Kleidi를 통해 주요 프레임워크를 원활하게 통합하고 AI 워크로드가 Arm CPU에서 최적으로 실행되도록 지원한다. 끝으로, 손쉬운 액세스 및 편의성이다. 우리는 개발자의 프로세스 간소화, 출시 기간 단축, 비용 절감 및 성능 최적화에 필요한 기능을 제공한다.

앞서 발표된 Kleidi의 주요 특징은 무엇이며, 기존 AI 및 ML 프레임워크와 어떻게 차별화하는가?

Arm Kleidi는 개발자가 Arm CPU에서 최적의 성능을 끌어내 원활하게 이용하도록 지원하기 위해 만들어졌다. Arm Kleidi에는 AI 워크로드를 위한 KleidiAI와 컴퓨터 비전 애플리케이션을 위한 KleidiCV가 포함된다. KleidiAI는 AI 프레임워크 개발자를 위한 컴퓨팅 커널 세트다. NEON, SVE2 및 SME2와 같은 Arm 아키텍처 기능을 지원해 다양한 디바이스에서 Arm CPU에서 설정 가능한 성능을 원활하게 이용하도록 한다.

KleidiAI는 파이토치, 텐서플로우, 미디어파이프 및 메타 라마 3와 같은 AI 프레임워크와 통합되며, 이후 Arm이 새롭게 출시할 추가 기술과도 적합하도록 이전 버전과 호환된다. 한 예로, Kleidi와 파이토치의 통합으로 라마 3 LLM을 실행할 때 Arm 기반 AWS 그래비톤 프로세서에서 첫 토큰 생성 시간이 2.5배 향상된 바 있다.

최근 업계에서는 자체적인 AI 칩 설계 아키텍처 확보를 위한 움직임이 있다. 이에 Arm은 시장점유율을 지키기 위한 비즈니스 전략을 어떻게 구상하는지 궁금하다.

세 가지 정도로 압축해볼 수 있겠다. 첫 번째로, Arm은 고객사의 타임 투 마켓을 단축시킨다. 이는 인프라에서 CSS를 통해 실현할 수 있다. 많은 기업은 자체적으로 가속기에 관련한 새로운 아이디어를 보유하고 있다. 이를 구현하기 위해서는 고성능의 CPU와 소프트웨어가 필수다. 이를 위해 우리는 CPU를 비롯해 다양한 OS와 프레임워크를 제공한다.

다음으로, 우리는 지속해서 CPU와 GPU 그리고 IoT에 있어 MPU를 향상시키고 있다. 이와 함께 AI 가속화를 위해 새로운 명령어와 아키텍처 부문에서 개선함으로써 경쟁력을 확보한다. 끝으로, 우리는 자사 기술이 보다 널리 손쉽게 수용되도록 노력을 기울인다. Arm은 에코 시스템에 대한 투자를 비롯해 소프트웨어 최적화, 클라우드 개선 및 확대 등을 추진해 왔다.

끝으로, Arm은 내년도 AI 컴퓨팅 플랫폼 시장에서 어떤 역할을 차지할 것이며, 구체적인 로드맵이나 목표가 있다면 언급해주길 바란다.

Arm은 광범위한 형태로 컴퓨팅 플랫폼을 제공하고 있다. 우리의 임무는 이 위치를 유지하면서, 새로운 AI 워크로드에도 우리의 자산이 적용되도록 노력을 배가하는 것이다. 이를 위해 제품 혹은 아키텍처에 대한 개선을 지속하며, 고객사의 솔루션이 향상되도록 지원하는 에코시스템 구축에도 집중하고 있다. 한 예로, 네오버스 CSS V3는 V2 대비 머신러닝 성능이 96% 향상됐다.

이에 우리는 규모가 작은 마이크로 컨트롤러에서부터 파워풀한 인프라 CPU까지 다룰 수 있다. 나아가 Arm은 2025년 말까지 AI를 실행하는 Arm 기반 디바이스 1000억 개를 생산하겠다는 목표를 품었다. 우리는 AI가 제공되는 새로운 시장의 출발점에 있으며, 이를 위해 에코시스템과의 강력한 협업을 지속할 계획이다.

헬로티 서재창 기자 |