HBM(High Bandwidth Memory, 고대역폭 메모리)은 ‘초고속 데이터 고속도로’를 가진 차세대 메모리 반도체입니다.
기존 D램을 평면으로 나열하는 대신, 아파트처럼 수직으로 높이 쌓아 올린(3D 적층) 뒤 미세한 구멍을 뚫어 수천 개의 통로로 데이터를 주고받게 만든 고성능 제품입니다.
HBM의 핵심 역할은 크게 두 가지로 나눌 수 있습니다.
1) 병목현상 해결: 인공지능(AI)을 구동하는 연산 장치(GPU 등)가 아무리 엄청난 속도로 발전해도, 메모리가 데이터를 제때 보내주지 못하면 전체 시스템이 느려집니다. HBM은 이 병목현상을 해결하는 절대적인 역할을 합니다.
2) 압도적인 데이터 전송 속도: 한 번에 보낼 수 있는 데이터의 양(대역폭)이 일반 D램과 비교할 수 없을 정도로 커서, 대규모 AI 연산을 중단 없이 매끄럽게 처리 할 수 있습니다.
HBM은 주로 아래와 같은 첨단 분야에 사용됩니다.
1) AI 데이터 센터 및 슈퍼컴퓨터: 오픈AI의 ChatGPT, 구글의 제미나이(Gemini) 같은 거대언어모델(LLM: Large Language Model)을 학습시키고 서비스하는 글로벌 빅테크 기업의 초거대 데이터 센터가 핵심 사용처입니다.
2) 고성능 그래픽 및 자율주행: 엔비디아를 필두로 한 AI 가속기(GPU 칩셋)의 필수 파트너로 탑재되며, 향후 초고성능 자율주행 시스템과 클라우드 컴퓨팅 등 방대한 데이터 처리가 필요한 모든 첨단 영역으로 확장되고 있습니다.