이제는 데스크톱도 AI PC 시대! 인텔 코어 울트라 프로세서가 필요한 이유

증가하는 AI 시장, AI PC 선택이 아닌 필수

로컬 온디바이스 AI를 위한 AI 특화 CPU 필요

NPU 유무 차이, 작업 성능에 큰 차이 보여

[디지털포스트(PC사랑)=임병선 기자] 이제 AI는 일상생활은 물론, 다양한 업무에서 빠질 수 없는 존재가 됐다. 스탠퍼드 HAI 보고에 따르면 2024년 기준 전 세계 기업의 약 78%가 AI를 사용 중이며, 이는 계속 증가하고 있다. 글로벌 AI 시장도 향후 2025년~2030년까지 연 평균 35.9% 성장할 것으로 전망 중이다. AI는 이미 거의 모든 산업과 일상에 깊숙이 들어와 있으며, 다양한 분야에 걸쳐 사용이 늘고 있다.

이러한 상황에서 AI PC는 이제 선택이 아닌 필수다. 물론, 많이 사용하는 ChatGPT나 제미나이 등은 클라우드 기반 AI 서비스로 인터넷만 되는 일반 PC에서도 사용할 수 있다. 하지만 로컬에서 AI 모델을 직접 실행하거나 AI 기반 영상/음성 편집 툴, 온디바이스 AI 처리를 요구하는 MS(마이크로소프트) 코파일럿+(Copilot) PC에는 AI PC가 필요하다. 그렇다면 AI에 특화된 PC 왜 필요한지 알아보자.

온디바이스 AI 위한 CPU, 왜 필요할까?

요즘 PC나 모바일 기기, 특히 윈도우 AI PC나 인텔 코어 울트라 프로세서 시리즈에는 AI 연산에 특화된 기술이 탑재되고 있다. 온디바이스 AI를 위한 CPU 혹은 전용 AI 가속기(NPU 등)를 내장한 CPU가 필요한 이유는 다음과 같다.

먼저 클라우드 의존 없는 로컬 AI 처리 가능하다. 클라우드 방식으로 처리하는 AI 서비스는 인터넷 연결이나 보안 문제, 대기시간 등 제약이 존재한다. 하지만 온디바이스 AI 기반이라면 인터넷 없이도 AI 추론이 가능하고 실시간 응답이 필요할 때 즉각적인 반응을 제공한다. 게다가 민감한 데이터를 외부 서버로 보내지 않고 로컬로 처리해 개인정보도 보호한다. MS 코파일럿 또는 위스퍼(Whisper) 음성 모델은 인터넷 없이 PC에서 바로 작동한다.

전력 효율도 뛰어나다. 기존 CPU나 GPU로 AI 연산을 하면 전력 소모가 크다. 반면, AI 연산에 특화된 최신 CPU에는 고속 벡터 연산이 가능한 AVX-512와 VNNI, INT8/FP16 양자화 연산에 최적화된 DL Boost(인텔 전용), 초저전력으로 AI 추론만 전담하는 NPU(AI 엔진) 프로세서가 탑재됐다. 따라서 전력 소모가 적고 발열도 적은 것이 장점이다.

마지막으로 지연 없는 실시간 AI 경험이 가능하다. 클라우드 기반 AI는 네트워크 딜레이가 존재하지만, 온디바이스 AI CPU는 지연 없이 응답하므로 UX가 개선된다. 예를 들면 사진 앱에서 실시간으로 배경을 제거하거나 웹캠 영상의 얼굴 인식이나 배경을 흐리게 할 수 있다. 또한, 온디바이스 AI 기반 소프트웨어 내에서 번역이나 자막이 실시간 생성된다.

GPU와 역할 분담 가능

온디바이스 AI를 담당하는 CPU를 사용하는 이유는 또 있다. 기존에는 AI 연산 처리를 GPU가 거의 도맡아서 했기 때문에 AI 연산 처리 중에는 다른 작업이 불가능했다. 하지만 CPU에서 온디바이스 AI 기능을 담당하는 NPU가 있다면 역할을 분산해 멀티태스킹 AI 활용이 가능하다. 예를 든다면 CPU는 일반 작업, NPU는 음성 인식 같은 AI 연산, GPU는 게임 렌더링에 집중해 각각 최대한 성능을 끌어내 전체 리소스 관리 효율이 대폭 상승한다.

게다가 온디바이스 AI 특화 CPU는 앞으로 윈도우 11 AI PC 생태계 대응에도 필수다. MS는 코파일럿+, 리콜(Recall), 스튜디오 이펙트(Studio Effects) 등 AI 중심 UX를 강력히 밀고 있다. 이를 위한 사용 요건으로 윈도우 11 24H2 이상 OS와 AI 처리 성능이 최소 40 TOPS(CPU+GPU+NPU) 이상, NPU가 탑재된 프로세서를 내세웠다. AI 기능이 OS와 통합되는 흐름에서 AI 기능을 탑재한 CPU는 더 이상 선택이 아닌 필수다.

따라서 온디바이스 AI CPU의 장점으로는 ▲클라우드 의존 없이 동작하므로 개인정보 보호와 인터넷 연결 없이 사용 가능 ▲전력 소모 절감과 발열 최소화 ▲실시간 처리 가능 ▲CPU와 GPU, NPU 역할 분담으로 시스템 자원 분산 사용 가능 ▲윈도우 11 AI PC 생태계 대응 등을 꼽을 수 있다.

NPU 유무, 얼마나 성능 차이가 날까?

그렇다면 온디바이스 AI PC에서 NPU 유무 차이는 얼마나 날까? 데스크톱 CPU인 인텔 코어 i9-14900K와 코어 울트라 9 285K로 비교해 봤다. 물론, CPU만 다른 게 아니라 메인보드도 다르므로 약간 변수는 존재하지만, 나머지 부품은 모두 같아 참고용으로 괜찮을 것이다.

테스트 시스템 비교

구분

NPU 없음

NPU 있음

CPU

코어 i9-14900K

코어 울트라 9 285K

메인보드

ASUS ROG STRIX Z790-E GAMING WIFI

ASUS ROG MAXIMUS Z890 HERO

메모리

커세어 VENGEANCE DDR5 7200MHz CL36 48GB (24GB x2)

그래픽카드

엔비디아 지포스 RTX 4090 FE

저장장치

SOLIDIGM P44 Pro PCIe 4.0 NVMe M.2 SSD 2TB

파워서플라이

커세어 RM1000e ATX3.1

쿨러

커세어 iCUE H170i ELITE LCD

윈도우 11 24H2

Geekbench 6 테스트

머신러닝 테스트에서는 코어 울트라  9 285K가 약 18% 더 높은 AI 점수를 기록했다. 코어 울트라 9 285K에는 13TOPS 성능의 INT8 NPU가 내장됐으며, AI 워크로드에서 추가적인 가속을 제공한다. 따라서 더 뛰어난 AI 머신러닝 성능을 지녔다.

싱글 코어와 멀티 코어에서도 코어 울트라 9 285K가 좀 더 높은 성능을 보여줬다. 특히 멀티 코어는 24코어 32스레드로 작동하는 코어 i9-14900K보다 24코어 24스레드로 작동하는 코어 울트라 9 285K가 더 높아 최적화가 더 잘된 것을 알 수 있다.

시네벤치 2024

시네벤치 2024 테스트 결과다. 코어 i9-14900K보다 코어 울트라 9 285K 쪽이 싱글 코어와 멀티 코어 모두 높게 측정됐다. 싱글 코어는 약 6.1%, 멀티 코어는 약 8.1% 정도 더 높은 수치를 보였다.

Blender

Blender 렌더링 벤치마크 테스트 결과다. 코어 i9-14900K는 508.1점, 코어 울트라 9 285K는 556.18점을 기록했다. 약 9.5% 성능 차이로, 렌더링 작업에서 코어 울트라 9 285K가 더 뛰어난 것을 확인할 수 있다.

PugetBench

PugetBench는 크리에이티브 프로그램인 포토샵과 프리미어 프로 성능을 비교할 수 있는 테스트다. 큰 성능 차이는 없지만, 근소하게 코어 울트라 9 285K가 높은 성능을 보였다. 어도비 프로그램은 AI 기능도 사용하는데 클라우드 방식이기 때문에 온디바이스 AI에서는 큰 성능 차이가 발생하지 않는다.

작업에 특화된 285K

코어 울트라 9 285K는 이전 세대인 코어 i9-14900K보다 AI 및 생산성 작업에서 더 우수한 성능을 보였다. 특히 멀티 코어 성능과 AI, 렌더링 테스트에서 5~10%가량 유의미한 성능 향상이 있었다. 여기에 전력 효율까지 개선되고 발열도 10~13℃가량 더 낮아 전체적인 시스템 안정성도 뛰어나다. AI나 생산성 작업에 특화된 AI PC를 구성하고자 한다면 코어 울트라 시스템을 추천한다.