美서 베일 벗은 삼성 새 메모리 전략…‘속도·확장성·영속성’으로 AI 공략

[마이데일리 = 윤진웅 기자] 삼성전자가 인공지능(AI) 메모리 경쟁의 전선을 ‘속도’에서 ‘용량 확장’과 ‘데이터 저장’까지 넓힌다. HBM5를 비롯한 차세대 고대역폭메모리 기술로 연산 속도를 높이고 CXL로 메모리 용량의 한계를 넘는 동시에 차세대 기업용 솔리드스테이트드라이브(SSD)로 방대한 AI 데이터를 안정적으로 저장한다는 전략이다.

심호준 삼성전자 DS부문 메모리사업부 AE팀 상무는 12일(현지시간) 미국 캘리포니아주 새너제이컨벤션센터에서 열린 ‘OCP 글로벌 서밋’에서 속도와 확장성, 영속성을 3대 축으로 하는 새로운 AI 메모리 전략을 공개했다.

OCP 글로벌 서밋은 전 세계 IT·반도체·서버·데이터센터 기업이 참여해 개방형 하드웨어 기술과 표준화, AI 인프라 혁신 방향을 논의하는 연례행사다.

이번 전략은 AI 모델이 대형화하고 추론 과정에서 처리해야 할 데이터와 KV캐시 용량이 폭증하면서 단순히 메모리 대역폭을 높이는 것만으로는 성능 향상에 한계가 있다는 판단에서 비롯됐다. KV캐시는 AI가 이전 연산 결과를 임시로 저장해 같은 계산을 반복하지 않도록 하는 공간인데, 모델과 처리 데이터가 커질수록 요구 용량도 함께 늘어난다.

삼성전자는 속도를 높이기 위해 최첨단 HBM5와 고객 요구에 맞춘 맞춤형 HBM을 준비하고 있다. 연산칩 위에 메모리를 수직으로 쌓아 데이터 이동 거리를 줄이는 ‘zHBM’, 간단한 연산을 메모리 내부에서 직접 처리하는 ‘PIM’도 차세대 기술로 제시했다.

메모리의 속도만 높이는 데 그치지 않고 데이터 이동에 따른 병목과 전력 소모까지 줄여 AI 가속기의 연산 효율을 극대화한다는 구상이다. 삼성전자는 행사장에 HBM5 모형과 웨이퍼를 전시하며 차세대 AI 메모리 기술을 공개했다.

확장성은 컴퓨트익스프레스링크(CXL)가 맡는다. CXL은 중앙처리장치와 AI 가속기, 메모리 등을 고속으로 연결해 시스템의 메모리 용량을 유연하게 확장할 수 있도록 하는 차세대 인터페이스다.

삼성전자는 CXL 기반 D램 모듈인 ‘CMM-D’를 통해 기존 서버가 가진 메모리 용량의 한계를 보완하고 데이터 관리 효율을 높일 계획이다. 서버를 전면 교체하지 않고도 AI 작업에 필요한 메모리를 추가할 수 있어 대규모 AI 인프라의 구축 비용과 운영 부담을 줄일 수 있기 때문이다.

AMD와의 협력도 확대한다. 삼성전자는 이번 행사에서 AMD와 CXL 기반 메모리 확장 솔루션을 공동 시연해 AI 시스템의 메모리 용량을 효율적으로 늘리는 방안을 제시할 예정이다. 최근 리사 수 AMD 최고경영자가 방한해 삼성전자를 방문하는 등 양사는 차세대 AI 반도체와 메모리 분야에서 교류를 강화하고 있다.

전원이 꺼져도 데이터를 보존하는 ‘영속성’도 챙긴다. 삼성전자는 차세대 기업용 SSD 등 최신 스토리지 기술을 활용해 대규모 AI 데이터의 저장 용량과 처리 성능을 끌어올린다는 방침이다.

AI 서비스가 학습 중심에서 추론 중심으로 이동하면 생성·저장해야 할 데이터도 기하급수적으로 증가한다. 이에 따라 HBM과 D램뿐 아니라 대용량 데이터를 빠르고 안정적으로 보관하는 낸드 기반 스토리지의 중요성도 커질 것으로 삼성전자는 보고 있다.

삼성전자는 새 메모리 전략을 실행하기 위해 글로벌 고객·파트너사와 제품 개발 초기부터 공동 설계와 기술 검증을 확대하고 있다. 완성된 범용 제품을 공급하는 기존 방식에서 벗어나 고객의 AI 가속기와 서버 구조에 최적화된 메모리를 함께 개발하겠다는 의미다.

삼성전자는 D램과 낸드 양쪽에서 세계 최대 수준의 사업 기반도 갖추고 있다. 카운터포인트리서치와 트렌드포스 등에 따르면 올해 2분기 삼성전자는 글로벌 D램 시장에서 39%, 낸드 시장에서 29.3%의 점유율로 각각 1위를 차지했다.

생산능력에서도 경쟁사를 앞선다. 시장조사업체 옴디아는 삼성전자의 올해 D램 생산능력을 300㎜ 웨이퍼 기준 연간 약 817만5000장으로 전망했다. SK하이닉스의 666만장과 마이크론의 360만장을 웃도는 규모다.

삼성전자는 이 같은 제조 경쟁력을 기반으로 HBM5와 맞춤형 HBM, CXL 메모리, 기업용 SSD를 아우르는 AI 메모리 포트폴리오를 구축할 계획이다. HBM 중심으로 전개된 AI 메모리 경쟁을 전체 시스템으로 확장해 주도권을 되찾겠다는 승부수로 풀이된다.