[ET톡]AI와 경쟁해야 하는 메모리

인공지능(AI) 시장이 격변하고 있다. 생성형 AI 시장에서 오픈AI가 챗GPT 흥행에 주류로 자리잡나 했더니, 구글이 제미나이 3.0으로 반격에 나섰다. 한 치 앞도 내다볼 수 없을 정도로 경쟁이 치열하다.

구글은 올해 3월 제미나이 2.5 프로를 발표했다. 속도에 초점을 맞춘 2.5 플래시는 6월에 등장했다. 불과 몇 달 만에 제미나이 3.0이 나오면서 AI 서비스 시장 판도가 흔들리고 있다.

AI 성장은 무섭다. 자고 일어나면 새로운 AI 모델이 탄생한다는 말이 나올 정도다. 그러나 AI를 구동하는 반도체는 상황이 다르다. AI 모델 발전 속도를 따라가지 못하는 '병목 현상'이 발생하고 있다.

AI 연산을 담당하는 그래픽처리장치(GPU)·신경망처리장치(NPU) 등 로직은 그나마 낫다. 문제는 메모리다. GPU·NPU는 초당 1000조번(페타플롭스) AI 연산이 가능한 수준까지 왔다. 그러나 메모리는 대역폭이 초당 테라바이트(TB/s)에 머물러 있다. 간단히 풀어 AI 연산 성능에 견주면 메모리 대역폭이 상당히 떨어진다는 의미다.

제미나이 3.0에 AI 모델·로직·메모리 발전 속도를 비교해달라고 하니, 각각 초음속·고속·저속이라는 답을 내놨다. AI 모델은 F1 레이싱 카처럼 빨라지는데 메모리는 국도를 달리는 자동차 수준이라는 것이다.

메모리 업계가 심혈을 기울여 고대역폭메모리(HBM)를 만들었지만 격차는 쉽사리 줄지 않는다. HBM 개발 현업에서도 인지하고 있는 문제다.

AI 병목이 메모리란 사실은 우리나라에 큰 도전과제다. 반도체 산업 무게 중심이 메모리에 있어서다. 결국 이 병목 현상을 해결하지 못하면 AI 시대의 메모리 주도권을 상실할 수도 있다.

'누가 먼저 엔비디아 퀄(성능 테스트)을 통과했나' '어디가 더 많은 HBM을 공급했나' 보다 더 중요한 문제로, 결국 경쟁 패러다임을 완전히 바꿔야 한다.

AI 시대에서는 삼성전자·SK하이닉스·마이크론이나 중국 메모리 제조사 간 경쟁만으로는 승기를 잡을 수 없다. AI 모델 발전 속도를 따라갈 경쟁력이 필요하다.

권동준 기자 djkwon@etnews.com