[하이닉스 반도체 역사 시리즈] 13편: HBM(고대역폭 메모리)의 서막, AI 시대를 바꾼 기술 집념의 역사

오늘날 전 세계 IT 업계와 주식 시장을 가장 뜨겁게 달구는 단어를 하나 꼽으라면 단연 'HBM(High Bandwidth Memory, 고대역폭 메모리)'일 것입니다. 인공지능(AI) 연산을 위한 엔비디아의 그래픽 처리 장치(GPU)에 필수적으로 들어가는 이 괴물 같은 메모리 시장에서, SK하이닉스는 현재 독보적인 세계 1위 자리를 지키고 있습니다. 하지만 이 찬란한 영광 뒤에는 과거 모두가 "돈 낭비다", "수요도 없는 기술을 왜 개발하느냐"며 외면할 때, 10년이 넘는 세월 동안 묵묵히 가시밭길을 걸었던 연구원들의 눈물겨운 집념이 숨어있습니다.

블로그를 운영하다 보면 당장 조회수가 나오지 않거나 구글 애드센스 수익이 미미하더라도, 미래의 트렌드를 예측하고 묵묵히 고품질의 글을 쌓아 나가야 하는 '인고의 시간'이 필요합니다. 2000년대 후반 SK하이닉스가 HBM 개발에 처음 착수했을 때의 상황이 바로 그러했습니다. 당시 전 세계 반도체 시장의 주류는 스마트폰과 PC에 들어가는 일반적인 고속 D램(DDR)이었습니다. 규격화된 제품을 더 얇고 싸게, 많이 찍어내는 것이 미덕이던 시절이었습니다.

하지만 SK하이닉스의 일부 엔지니어들은 미래를 다르게 보았습니다. 데이터의 양이 폭발적으로 늘어나면 기존의 평면적인 D램 구조로는 데이터를 주고받는 통로(대역폭)가 좁아져 심각한 병목 현상이 생길 것이라 예측한 것입니다. 데이터를 아무리 빨리 처리하는 똑똑한 두뇌(CPU/GPU)가 있어도, 메모리에서 데이터를 보내주는 길이 왕복 2차선 도로처럼 좁다면 전체 시스템은 느려질 수밖에 없습니다.

이 문제를 해결하기 위해 SK하이닉스가 내놓은 역발상이 바로 'D램을 아파트처럼 위로 높게 쌓아 올리자'는 아이디어였습니다. 그리고 이 칩들을 수직으로 관통하는 미세한 구멍을 뚫어 전극을 연결하는 'TSV(Through Silicon Via, 실리콘 관통 전극)' 기술을 도입하기로 합니다. 도로를 넓히는 대신, 초고속 엘리베이터를 건물 내부에 수천 개 설치해 데이터 이동 속도를 획기적으로 올리겠다는 구상이었습니다.

개념은 혁신적이었지만, 실제 구현하는 과정은 그야말로 지옥이었습니다. 머리카락 굵기의 수십 분의 일에 불과한 D램 칩에 수천 개의 미세한 구멍을 오차 없이 뚫어야 했고, 이를 쌓아 올리는 과정에서 칩이 휘거나 열 때문에 떨어지는 불량이 속출했습니다. 무엇보다 큰 장벽은 '시장'이었습니다. 당시에는 스마트폰이 대세였기에 이렇게 크고, 뜨겁고, 만드는 비용이 수십 배는 더 비싼 HBM을 원하는 고객은 전 세계 어디에도 없었습니다. 경영진 내부에서도 "적자가 쌓이는데 언제 쓰일지도 모르는 기술에 연구비를 계속 써야 하느냐"는 회의론이 팽배했습니다.

실제로 내가 당시 현장의 분위기를 전해 들었을 때, 연구원들은 언제 과제가 없어질지 모른다는 불안감 속에서 기술을 개발했다고 합니다. 하지만 엔지니어들은 "언젠가 초고속 연산의 시대가 오면 이 기술이 세상을 바꿀 것"이라는 확신을 꺾지 않았습니다. 낮에는 수율을 잡기 위해 클린룸에서 살다시피 했고, 밤에는 전 세계 논문과 특허를 뒤지며 패키징 기술을 정교화했습니다. 이 시기 축적된 데이터와 실패의 노하우는 고스란히 SK하이닉스만의 독점적인 자산이 되었습니다.

결국 2013년, SK하이닉스는 세계 최초로 1세대 HBM을 개발하는 데 성공하며 전 세계 반도체 업계에 큰 충격을 주었습니다. 비록 초기에는 비싼 가격과 한정된 수요로 인해 큰돈을 벌지 못했지만, 이 무모해 보였던 10년의 기술 집념은 훗날 챗GPT로 대변되는 생성형 AI 시대가 도래했을 때, SK하이닉스가 엔비디아의 핵심 파트너로 낙점받으며 세계 반도체 판도를 뒤흔드는 기적의 도화선이 되었습니다.

13편 핵심 요약

• HBM은 데이터 병목 현상을 해결하기 위해 D램을 수직으로 쌓아 올리고 TSV 기술로 연결한 초고속 메모리입니다.

• 개발 초기에는 수요처가 없고 제조 비용이 너무 비싸 사내외에서 무모한 투자라는 거센 비판과 회의론에 직면했습니다.

• 10년이 넘는 암흑기 속에서도 연구원들이 독자적인 패키징 및 미세 공정 노하우를 축적한 결과, 2013년 세계 최초로 HBM 개발에 성공하며 AI 시대의 주도권을 선점했습니다.

다음 편 예고: 14편에서는 세계 최초 타이틀을 거머쥔 SK하이닉스가 마침내 생성형 AI의 거인 '엔비디아(Nvidia)'의 선택을 받아 HBM3 시장을 독점하고, 글로벌 반도체 시가총액 구도를 어떻게 뒤흔들었는지 그 극적인 독점 신화를 다룹니다.

당장은 아무도 알아주지 않고 성과가 눈에 보이지 않지만, 미래의 가치를 믿고 오랜 시간 끈기 있게 밀어붙여 결실을 보았던 나만의 'HBM 같은 경험'이 있으신가요? 여러분의 값진 스토리를 댓글로 들려주세요!