삼성과 마이크론, 메모리 집약적 애플리케이션을 위한 첨단 HBM3E 3D 칩 출시

미래 지향적: AI 붐이 본격화되면서 칩 제조업체들은 새로운 첨단 메모리 기술을 선보이고 있습니다. 차세대 고대역폭 메모리(HBM)는 대역폭과 용량이 모두 크게 증가할 것으로 예상되며, 삼성은 업계를 선도하는 것을 목표로 하고 있습니다.

삼성은 다소 뒤늦게 HBM3E 시장에 진입했지만, 3D 적층 메모리 기술의 선구적인 성과로 HBM3E 12H D램 칩을 선보이고 있습니다. 이 한국 대기업의 최신 메모리 칩은 새로운 12층 스택을 사용하여 8층 스택의 HBM3E 칩에 비해 성능과 용량을 모두 50% 향상시킬 수 있습니다.

삼성은 HBM3E 12H 칩이 초당 최대 1,280기가바이트(GB/s)의 대역폭을 달성하여 36기가바이트의 전례 없는 용량을 제공할 수 있다고 주장합니다. 삼성은 8층 칩과 동일한 높이 사양을 유지하는 첨단 열 압축 비전도성 필름(TC NCF)을 활용하여 동일한 칩에 12층을 적층하는 데 성공했으며, 이는 현재 HBM 메모리 패키징 애플리케이션에 대한 요구 사항을 충족하는 것으로 보입니다.

또한 TC NCF는 업계에서 가장 작은 7마이크로미터의 칩 간 간격을 구현하는 동시에 레이어 간 공극을 줄여 추가적인 이점을 제공합니다. 수직 DRAM 밀도는 HBM3E 8H 칩에 비해 20% 더 높아질 수 있습니다. 또한 제조 공정의 개선으로 열 특성이 개선되고 제품 수율도 높아졌다고 합니다.

서울에 본사를 둔 SK하이닉스는 최신 HBM3E(12H) 칩이 DRAM 메모리 수요가 증가하고 있는 AI 가속기에 ‘최적의’ 솔루션을 제공할 수 있을 것으로 기대하고 있습니다. HBM3 8H 칩에 비해 삼성 HBM3E 12H 메모리는 AI 모델 훈련의 평균 속도가 34% 향상된 것으로 나타났습니다. 또한 추론 서비스의 동시 사용자 수를 “11.5배 이상” 확장할 수 있다고 주장합니다.

삼성은 현재 일부 고객에게 첫 번째 HBM3E 12H 칩 샘플을 제공하고 있으며, 2024년 상반기에 대량 생산할 예정입니다. 이와 동시에 HBM3E 시장의 또 다른 주요 업체인 마이크론은 최신 3D 메모리 칩을 본격적으로 생산한다고 발표했습니다. 아이다호에 본사를 둔 이 회사는 2024 회계연도의 재무 성과를 높이기 위해 “전통적인” 8층 HBM3E 칩 설계에 상당한 베팅을 하고 있습니다.

마이크론은 2024년 하반기에 출시될 예정인 강력한 AI 가속기인 H200 텐서 코어 GPU용 24GB 8H HBM3E 칩을 엔비디아에 공급할 예정입니다. 삼성과 마찬가지로 마이크론은 메모리 집약적인 애플리케이션과 생성형 AI 서비스를 위한 선도적인 솔루션으로 HBM3E 기술을 포지셔닝하고 있습니다.

HBM3E 칩은 초당 9.2기가비트(Gb/s) 이상의 핀 속도를 제공하며, 초당 1.2테라바이트(TB/s) 이상의 메모리 대역폭을 제공합니다. 전력 소비는 경쟁 제품보다 30% 낮으며, 24GB 용량으로 데이터센터 운영자가 광범위한 AI 애플리케이션을 위한 ‘원활한 확장성’을 달성할 수 있다고 마이크론은 설명합니다.

마이크론의 수석 부사장 겸 최고 비즈니스 책임자인 수밋 사다나는 마이크론의 새로운 HBM3E 칩이 AI에 대한 수요가 급증하는 가운데 비즈니스 성장을 지원할 수 있다고 강조합니다. 앞으로 마이크론은 3월에 첫 36GB 12-High HBM3E 칩의 샘플 출시를 준비하고 있습니다.