"AI 추론 시대, 메모리 병목 넘는다"…SK하이닉스, 차세대 로드맵 제시

[포인트경제] SK하이닉스가 인공지능(AI) 추론 시장의 급격한 성장에 따른 새로운 메모리 병목 현상을 진단하고, 이를 극복하기 위한 차세대 메모리 기술 로드맵과 전체 메모리 계층 최적화 전략을 제시했다.

안현 SK하이닉스 개발총괄 사장은 14일 열린 'SEDEX 2026' 기조연설에서 'AI 시대, 메모리 기술의 진화 방향'을 주제로 발표하며 AI 인프라 전반의 성능과 에너지 효율을 높이기 위한 해법을 공개했다.

AI 추론 급성장…'계층 간 데이터 이동'이 새로운 병목으로 부상

안 사장은 빅테크 기업들의 지속적인 AI 투자에 힘입어 관련 기술의 효율화가 AI 활용 확대와 새로운 수요 창출로 이어지고 있다고 진단했다. 특히 AI 추론 시장은 작업 복잡도와 컨텍스트 길이, 추론 요청량이 서로 곱해지는 형태로 폭발적으로 성장하고 있으며, 이에 따라 AI 인프라의 성능 규모가 2030년에는 2026년 대비 약 20배까지 커질 것으로 전망했다.

이 같은 성장에 따라 모델 가중치와 중간 데이터의 저장 및 이동 수요도 급증하고 있다. 특히 이전 토큰 정보를 저장하는 KV 캐시 데이터 처리를 위해 HBM부터 DRAM, SSD까지 여러 메모리 계층에 데이터를 분산 저장하는 과정에서 계층 간 데이터 이동이 새로운 성능 및 전력 소모의 병목으로 떠올랐다. 안 사장은 과거 연산기와 메모리 사이의 '메모리 장벽'을 넘어, 서로 다른 메모리 계층 간 성능 격차와 데이터 이동 자체를 해결하는 전체 계층 최적화 접근이 필수적이라고 강조했다.

HBM 고도화 넘어 3D 스택드 D램·HBF로 확장

SK하이닉스는 이러한 구조적 변화에 대응하기 위해 기존 HBM 경쟁력을 강화하는 동시에 새로운 메모리 계층을 구현할 차세대 기술을 선보였다.

우선 HBM1부터 HBM4E까지 용량과 대역폭을 높여온 데 이어, 베이스 다이에 메모리 컨트롤러와 고객 맞춤형 로직을 탑재하는 '커스텀 HBM'으로 기술 발전 방향을 확대하고 있다.

또한 SRAM과 HBM 사이의 성능 병목을 해결하기 위해 GPU·NPU 등 로직 반도체 위에 DRAM을 적층해 물리적 거리를 줄인 '3D Stacked DRAM'을 소개했다. 이와 함께 HBM이 확보한 TSV 및 고속 입출력 기술을 낸드플래시에 적용한 'HBF(High Bandwidth Flash)'도 제시했다. HBF는 HBM과 DRAM 사이에 배치되어 동세대 HBM 대비 절반 수준의 대역폭과 약 10배의 용량을 구현하는 것을 목표로 하며, 쓰기보다 읽기 작업이 많은 AI 추론 특성에 최적화된 차세대 솔루션이다.

SEDEX 2026서 맞춤형 AI 메모리 솔루션 총출동

한편 SK하이닉스는 이번 SEDEX 2026에서 전시장 내 최대 규모의 부스를 마련하고 AI 서버부터 PC, 모바일 디바이스까지 아우르는 폭넓은 메모리 솔루션을 선보였다.

부스는 '멈추지 않고 나아가는 AI 여정'을 주제로 육상 트랙 형태로 구성됐다. 주요 전시 제품으로는 256GB 3DS RDIMM, 128GB MRDIMM, 10나노급 6세대(1c) 공정을 적용한 64GB RDIMM 등 고성능 서버용 D램이 포함됐다. eSSD 분야에서는 액체냉각을 지원하는 제품과 SK하이닉스 최초의 QLC 기반 eSSD 등을 소개했다. 아울러 PC와 모바일 분야의 DDR5 CSODIMM, LPDDR6, UFS 5.0 등 최신 기술 제품군을 대거 공개하며 AI 시대의 지속적인 성장을 이끌겠다는 비전을 드러냈다.