갤럭시S24 히든 카드 될 ‘메모리 고속도로’ [

갤럭시S24, LLW D램 탑재 예정

메모리 대역폭(속도) 확대한 D램

지연 줄여 AI 추론 작업에 이상적

내년 1분기 출시 예정인 삼성전자의 플래그십 스마트폰 갤럭시 S24에는 일명 ‘저지연 와이드 입출구(Low Latency Wide I/O·LLW I/O) D램이라는 새로운 메모리가 탑재될 전망입니다.

이 기술은 몇 달 전 애플이 가상현실(VR) 기기 ‘비전 프로’에 도입할 예정이라고 밝혀 업계의 주목을 받은 바 있는데요. 스마트폰에 탑재되는 건 삼성전자의 갤S24가 최초이며, 갤S24의 인공지능(AI) 추론 성능을 극대화할 잠재력이 있습니다.

메모리 속도 높이는 고속도로

모든 컴퓨터 칩에는 입출력 장치, 즉 I/O가 있습니다. 칩에 붙어 있는 작은 핀 형태인데, 이 핀을 통해 반도체의 데이터가 전송됩니다. I/O는 데이터의 고속도로라고 비유할 수 있겠지요. LLW D램이란 바로 I/O 핀의 개수를 대폭 늘려 D램의 메모리 전송 속도를 높인 메모리 장치라 할 수 있습니다.

계층 구조의 한계를 돌파하라

D램의 대역폭이 커지면 어떤 이득이 있을까요? 이를 이해하려면 이른바 ‘메모리 계층 구조’를 먼저 알아야 합니다.

메모리의 계층도

계층 구조를 세부적으로 파고들면 너무 복잡해지므로 최대한 간략하게 표현하면, 다음과 같은 피라미드 구조로 나타낼 수 있습니다. 밑으로 내려갈수록 속도(즉 대역폭)는 느리되 메모리 용량은 큽니다. 위로 올라갈수록 속도는 빠르되 용량은 적습니다. 특히 캐시는 CPU 안에 탑재된 메모리이기 때문에 가장 속도가 빠릅니다.

문제는 계층 구조상 어중간한 D램의 속도입니다. CPU가 연산 작업을 할 때 D램에 저장된 데이터를 가져오는 과정에서 필연적으로 지연 현상(Latency)이 발생하고, 이는 성능 저하로 이어집니다. 빠른 영상 처리가 생명인 VR 기기, 막대한 매개변수 데이터를 처리해야 하는 AI 업무에선 치명적인 단점입니다.

서버 기기에선 지연 현상을 해결하기 위해 D램을 여러 개 쌓고 그 중앙에 관통 전극을 낸 ‘HBM’이라는 특수 메모리를 씁니다.

하지만 스마트폰이나 VR 기기처럼 작은 전자기기에 HBM을 욱여넣을 수는 없겠지요. 그래서 나온 대체재가 LLW D램입니다.

물론 LLW D램이 캐시만큼 빨라질 일은 없겠지만, 적어도 기존 제품 대비 지연을 최소화하기엔 딱 알맞습니다.

AI를 위한 D램