SK하이닉스 HBM, 메모리 회사가 AI의 심장을 쥔 이유

HBM은 여러 개의 메모리 칩을 위로 차곡차곡 쌓아 데이터를 한꺼번에 빠르게 주고받게 만든 고성능 메모리예요. AI가 어마어마한 양의 계산을 동시에 해야 하는 시대에 꼭 필요한 부품이라, 이걸 남보다 먼저 잘 만든 SK하이닉스가 단숨에 주역으로 떠올랐어요.

좁은 골목에 몰린 자동차들

잠깐 컴퓨터 속을 자동차 도로라고 상상해 볼게요.
계산을 담당하는 칩(GPU)은 일하는 공장이고, 메모리는 그 공장에 재료를 실어 나르는 창고예요.
그런데 공장이 너무 빨라지면, 창고에서 공장까지 가는 도로가 좁아서 재료가 제때 도착하지 못해요.
공장은 멀쩡한데 길이 막혀 멈춰 서는 거죠.

AI는 한 번에 수십억 개의 숫자를 주물러요.
그러니 이 '도로 폭', 즉 데이터가 한꺼번에 지나갈 수 있는 양이 성능을 좌우해요.
이걸 어려운 말로 대역폭이라고 불러요.
HBM 이야기는 결국 이 좁은 도로를 어떻게 넓혔는가에 대한 이야기예요.

칩을 옆이 아니라 위로 쌓다

도로를 넓히는 가장 쉬운 방법은 차선을 늘리는 거예요.
그런데 칩을 평평하게 옆으로만 늘어놓으면 자리가 모자라고 거리도 멀어져요.
그래서 떠올린 발상이 '위로 쌓기'예요.

HBM은 High Bandwidth Memory, 우리말로 고대역폭 메모리예요.
메모리 칩을 아파트처럼 여러 층으로 쌓고, 각 층을 수직으로 뚫은 작은 엘리베이터 통로로 연결해요.
이 통로를 실리콘 관통 전극, 영어 약자로 티에스브이(TSV)라고 불러요.
평면에 길게 늘어놓는 대신 위로 쌓아 올리니, 거리는 짧아지고 한 번에 지나갈 수 있는 데이터의 길은 훨씬 넓어졌어요.

위기의 회사가 미리 걸어둔 도박

여기서 SK하이닉스가 등장해요.
이 회사는 원래 잘나가던 곳이 아니었어요.
외환위기와 반도체 불황을 겪으며 한때 주인이 여러 번 바뀌고 빚에 시달리던, 말 그대로 위기의 메모리 회사였어요.
2012년에 SK그룹 품에 안기면서 겨우 한숨을 돌렸죠.

그런데 이 회사는 2013년에 AMD라는 회사와 손잡고 세계 최초로 HBM을 세상에 내놨어요.
당시엔 이걸 쓸 곳이 마땅치 않았어요.
비싸고 만들기 까다로운데 시장은 작았으니까요.
그래도 남들이 머뭇거릴 때 계속 붙잡고 있었던 거예요.
그러다 AI 열풍이 불면서, 엔비디아 같은 회사의 AI 칩에 이 HBM이 꼭 필요해졌어요.
미리 깔아둔 길 위로 갑자기 거대한 수요가 쏟아진 셈이에요.

기대와 실체 사이, 그리고 운

이 이야기에서 한 가지 짚고 싶은 게 있어요.
SK하이닉스가 처음부터 'AI 시대가 올 테니 HBM에 걸자'며 미래를 정확히 내다봤다고 말하긴 어려워요.
기술에 대한 고집과 투자가 있었고, 거기에 시대의 타이밍이 맞아떨어진 거예요.
노력과 운, 둘 다 있었던 셈이죠.

기술이라는 건 늘 도박을 닮았어요.
지금 빛을 못 봐도 묵묵히 갈고닦은 것이, 세상이 바뀌는 순간 갑자기 보물이 되기도 해요.
반대로 화려해 보이던 기술이 조용히 사라지기도 하고요.
중요한 건, 빛날 순간이 언제 올지 아무도 정확히 모른다는 점이에요.
SK하이닉스의 부활은 '준비된 자에게 운이 왔다'는 흔한 말의 진짜 사례에 가까워요.

정리

HBM은 메모리 칩을 위로 쌓아 데이터가 지나갈 도로를 넓힌 고성능 메모리이고, AI가 한꺼번에 많은 계산을 해야 하는 시대라 꼭 필요해졌어요.
SK하이닉스는 위기의 회사였지만 2013년부터 이 기술을 붙잡고 있었고, AI 열풍과 타이밍이 맞아 주역이 됐어요.
기억할 건 이거예요.
당장 쓸모없어 보이는 준비가 세상이 바뀌는 순간 가장 큰 무기가 될 수 있다는 것, 그리고 기술의 성공에는 실력과 운이 함께 필요하다는 점이에요.