SK하이닉스 "AI 시대, HBM만으로 한계···다음 격전지는 PIM·CXL"

강욱성 SK하이닉스 차세대상품기획 부사장은 인공지능(AI) 등장으로 인해 메모리 영역에서도 큰 변화가 일어나고 있으며 고대역폭메모리(HBM)만으로는 AI 메모리 시대에 대응하기 충분치 않다고 강조했다. 이에 HBM의 뒤를 이을 차세대 제품으로 PIM(Processing in Memory)과 CXL(Compute Express Link)을 꼽았다.

강 부사장은 5일 서울 코엑스에서 열린 'SK AI 서밋'을 통해 폴 페이(Faul Fahey) SK하이닉스 부사장과 함께 '초연결 시대의 디지털 신경망, AI와 Memory가 그리는 미래 산업 지형'이라는 주제로 대담을 진행하며 이같이 밝혔다.

강 부사장은 AI로 인한 메모리 시장 변화와 관련해 "AI는 메모리의 용량과 대역폭을 극대화시키며 계속해서 한계를 시험하고 있다"며 "더 이상 우리가 알던 메모리들이 AI 시스템에서 사용될 수 없다는 것"이라고 진단했다.

또한 UC버클리 연구자들의 논문을 인용해 이미 AI 장벽에 도달했다고도 평가했다. GPU 등 성장 속도와 HBM 대역폭 증가 속도 간 간극이 존재한다는 것이다.

강 부사장은 "GPU 성장은 2년마다 약 3배 정도 성장하고 있지만 HBM 대역폭 증가는 성장률 배수가 훨씬 낮다"며 "HBM만으로도 지금 충분치 않다는 것"이라고 말했다.

AI 시대에 HBM의 뒤를 이을 메모리 꼽은 것은 PIM과 CXL이다. SK하이닉스는 메모리 병목 현상을 극복하기 위해 메모리에 연산 기능을 더하는 기술을 개발하고 있다. 그중 하나가 PIM이다. 또한 SK하이닉스는 여러 메모리를 연결해 대용량을 구현하는 CXL도 준비 중이다.

그는 "HBM은 이제 차세대 미래형 메모리가 더 이상 아니다"라며 "다음 후보로는 PIM이라고 생각한다"고 강조했다.

이어 "PIM은 프로세싱 메모리로 엑셀러레이터 같은 가속기 역할을 한다"며 "우리가 넘을 수 없었던 장벽을 뛰어넘을 수 있게 해주는 후보가 될 수 있다"고 덧붙였다.

특히 모바일 분야에서 상용화될 가능성이 높다고 예상했다.

강 부사장은 "온디바이스 AI가 생겨나면서 PIM은 모바일쪽에서 사용할 가능성이 크다"며 "PIM은 에너지 효율성이 굉장히 높고 동시에 내부 대응 폭도 굉장히 높아 모바일 어플리케이션에서 도움이 될 수 있다"고 밝혔다.

CXL은 용량과 관련된 제약을 뛰어넘을 수 있는 솔루션이 될 수 있다고 봤다. 강 부사장은 "AI 서비스는 정말 많은 캐파와 용량을 필요로 한다. 그만큼 많은 데이터를 보유해야 되기 때문"이라며 "또 추론과 트레이닝을 하면서 많은 데이터가 생성되고 그 데이터가 어디엔가 저장되어야 하는데 CXL이 정말 좋은 대안이 될 수 있다고 보고 있다"고 설명했다.

그는 "CXL은 CPU와 GPU를 연결시킬 수 있고 이에 따라 전반적인 성능이 향상되고 활용도 또한 훨씬 더 효율적으로 된다"고 덧붙였다.

한편 폴 페이 부사장도 AI로 인한 메모리 시장 변화들에 대해 공감하며 "이것은 우리 혼자만 할 수 없다"며 "모든 생태계 파트너들과 협력이 매우 중요하다"고 언급했다.