창고 취급받던 메모리의 반란, AI 시대 HBM이 바꾼 반도체 권력지도

요약

오랫동안 반도체 산업에서 메모리는 사이클에 휘둘리는 비용 변수로 취급됐다. 그러나 AI 시대가 열리면서 고대역폭메모리 HBM을 중심으로 메모리가 시스템 성능을 좌우하는 핵심 변수로 격상됐다. 반도체 부가가치의 무게중심이 연산에서 데이터 이동으로 옮겨가는 권력 이동이 본격화하고 있다.

사건의 전말

과거 메모리는 표준화된 범용 제품으로, 공급 과잉과 부족이 반복되는 전형적인 경기 민감 산업이었다. 이익의 지속성이 낮고 가격 결정권도 약해 반도체 산업 내에서 상대적으로 낮은 평가를 받아왔다. 시스템 반도체와 비메모리가 두뇌라면 메모리는 단순 저장 창고로 비유되곤 했다.

하지만 생성형 AI와 대규모 언어모델이 폭발적으로 확산되면서 상황이 뒤집혔다. AI 가속기는 막대한 파라미터를 빠르게 읽고 쓰는 능력이 핵심인데, 이 과정에서 데이터를 연산장치로 실어 나르는 메모리 대역폭이 전체 성능의 병목으로 떠올랐다. 아무리 강력한 연산 칩이 있어도 메모리가 데이터를 충분히 빠르게 공급하지 못하면 성능이 제한되는 메모리 월 문제가 현실화한 것이다.

그 해법으로 부상한 것이 D램을 수직으로 쌓아 대역폭을 극대화한 HBM이다. HBM은 단순 저장장치가 아니라 AI 가속기의 성능을 결정짓는 동반 부품으로 자리잡았고, 공급사가 가격과 물량의 주도권을 쥐는 구조로 바뀌었다. 메모리가 비용 변수에서 성능 변수로 이동한 것이다.

구조적 배경

이 변화의 본질은 반도체 가치사슬에서 데이터 이동의 중요성이 커진 데 있다. 연산 성능은 빠르게 발전했지만 메모리와의 데이터 전송 속도가 이를 따라가지 못하면서, 대역폭과 전력효율을 갖춘 고성능 메모리의 희소가치가 급등했다. 범용 D램과 달리 HBM은 고난도 패키징과 수율 관리가 필요해 진입장벽이 높고, 소수 업체만이 안정적 양산이 가능하다.

그 결과 메모리는 과거의 단순 가격 경쟁에서 벗어나 고객 맞춤형 설계와 장기 공급계약 중심의 구조로 재편되고 있다. 이는 메모리 산업의 변동성을 줄이고 이익의 지속성을 높이는 방향으로 작용한다.