[맞수맞짱] (7) HBM | 삼성전자 vs SK하이닉스, SK 1라운드 ‘勝’…삼성 2라운드 ‘선빵’

“HBM 2라운드에선 승리해야 한다.” (경계현 삼성전자 사장)

“경쟁력은 한순간에 확보할 수 있는 게 아니다. 하지만 자만하지 않겠다.” (곽노정 SK하이닉스 사장)

AI 반도체 HBM을 둘러싼 삼성전자와 SK하이닉스 간 전장이 ‘2라운드’로 접어들고 있다. HBM은 ‘High Bandwidth Memory’의 줄임말로, ‘고대역폭 메모리’라는 뜻이다. 다른 메모리 반도체보다 대역폭이 높아 데이터 전송 속도가 빠른 반도체 칩으로 보면 된다.

HBM은 적층 난도에 따라 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발돼왔다. 반도체업계에서는 4세대까지를 HBM 1라운드로 보고 있다. 1라운드에선 SK하이닉스가 승기를 잡았다는 데 이견이 없다. 시장조사업체 트렌드포스는 올해 HBM 출하량 기준 세계 시장점유율은 SK하이닉스가 52.5%로 1위를 유지하고 삼성전자가 42.4%로 뒤따를 것으로 봤다. 1위 사수가 조직 핵심 정체성인 삼성전자에는 뼈아픈 대목이다.

2라운드는 절치부심한 삼성전자가 명예 회복을 벼른다. 2라운드는 5세대 HBM3E(8단·12단 등)부터 6세대 HBM4 이후를 아우른다. 2라운드에선 적층 경쟁 심화로 공정 난도가 훌쩍 뛰면서 미세 공정에 특화한 파운드리 기술 적용이 필수다. 이에 따라, 메모리와 파운드리, 패키징 역량을 고루 갖춘 삼성전자에 유리한 국면이 펼쳐질 것이라는 관측이 나오는 가운데, SK하이닉스는 대만 TSMC와 손잡고 사활을 건 HBM 전장에 나선다.

삼성과 SK가 동일한 고객(엔비디아)을 두고 비슷한 사양의 제품(HBM) 공급 대결을 벌인 것은 사실상 이번이 처음이다.

삼성과 SK 간 HBM 2라운드가 본격화했다. 사진은 경계현 삼성전자 대표이사 사장(좌)과 곽노정 SK하이닉스 대표이사 사장(우).

HBM 리더십 논쟁 재점화

삼성 vs 하이닉스 매출 경쟁

HBM 제조 과정은 이렇다. 개별 D램 칩을 차곡차곡 쌓아 기판에 부착한다. 이후 적층으로 이뤄진 메모리 칩을 실리콘관통전극(TSV)이라는 기술로 연결한다. 쉽게 말해, 메모리 레이어를 쌓아 고층 아파트를 만든 뒤, TSV라는 엘리베이터로 기판과 연결한 것이다. 여러 트랜지스터를 쌓아 올리므로 HBM은 같은 면적에 들어가는 메모리 트랜지스터 개수가 기존 범용 메모리 칩보다 월등히 많다.

AI 가속기는 데이터 학습·추론에 특화한 반도체 패키지다. GPU에 HBM 여러 개를 조립해 만든다. AI 칩 두뇌 역할을 하는 GPU가 데이터를 숨 가쁘게 학습하고 추론할 수 있게 바로 옆에서 대용량 데이터를 보관했다가 빠른 속도로 전송하는 역할을 HBM이 맡는다.

최근에는 AI가 거대화하면서 일종의 AI 신경망 역할을 하는 파라미터(매개변수)가 조 단위 이상 늘어나 차세대 AI 가속기에는 하나의 GPU도 모자라 두 개를 바로 옆에 연결하는 식으로 탑재된다.

GPU 옆에는 칩을 8단·12단으로 쌓은 5세대 HBM3E가 장착된다. GPU 칩 사이는 물론 GPU와 HBM을 서로 가까이 둘수록 데이터 전송 대역폭(순간적으로 보낼 수 있는 데이터의 양)이 높아져 AI 학습과 추론(생성) 시간이 단축된다.

올해 HBM 시장 규모가 지난해(43억달러)보다 4배 늘어난 169억달러(약 24조원)에 달할 것으로 예상된 이유다. 2030년에는 HBM 시장 규모가 50조원까지 커질 것이라는 전망도 나온다. 트렌드포스는 “내년 HBM 매출은 D램 전체 매출의 30% 이상을 차지하며 가격은 올해 5%, 내년 10% 이상 상승할 것”이라고 밝혔다. 올해 HBM 수요는 지난해 대비 3배(200%) 가까운 성장률로, 내년에는 두 배 이상 증가할 전망이다.

4세대(HBM3)까지 이어진 1라운드에선 SK하이닉스가 승기를 잡았다. SK하이닉스는 4세대 HBM3 양산에 성공한 데 이어 5세대 HBM3E도 가장 먼저 양산을 시작했다. HBM3E는 대역폭을 초당 1180~1280GB까지 끌어올린 제품이다. SK하이닉스의 지난 1분기 영업이익(2조8860억원)이 삼성전자 반도체 부문(1조9100억원)을 앞설 수 있었던 이유다.

5세대부터 본격화할 2라운드는 압도적 승자를 점치기 힘든 구도로 재편될 것이라는 게 반도체업계 시각이다. 생성형 AI의 가파른 팽창으로 AI 학습과 추론(생성) 시간 단축이 화두로 대두돼 HBM과 GPU 사이 간격을 줄이는 것은 물론 HBM 적층 경쟁에 불이 붙었다. 이때부턴 제조 공정 난도가 기하급수적으로 뛰면서 HBM 시장 패권 구도가 뒤집힐 가능성이 높다는 게 다수 전문가 시각이다.

지난해 HBM 시장에서 아쉬운 성적표를 받아 든 삼성전자는 2라운드에서는 SK하이닉스를 꺾겠다며 단단히 벼른다. 선제 포문을 연 쪽은 삼성전자다. 경계현 사장은 지난 4월 26일 열린 사내 경영 현황 설명회에서 “AI 초기 시장에서는 우리가 승리하지 못했지만 2라운드는 우리가 승리해야 한다”며 “우리가 가진 역량을 잘 집결하면 충분히 할 수 있다”고 말했다. 지난해 HBM 시장에서 경쟁사 SK하이닉스에 주도권을 내준 것에 대한 반성이면서 분위기 쇄신을 위한 메시지를 낸 것으로 풀이된다.

SK하이닉스는 이를 맞받아 HBM ‘1등 리더십’ 논쟁에 불을 지폈다. 곽노정 사장은 지난 5월 2일 경기 이천 본사에서 ‘AI 시대, SK하이닉스 비전과 전략’을 주제로 기자간담회를 열고 “생산 측면에서 HBM은 올해 이미 ‘솔드아웃(완판)’이고, 내년 역시 대부분 솔드아웃 됐다”고 강조했다. SK하이닉스가 이천 본사에서 기자간담회를 연 것은 이번이 처음이다.

두 회사는 HBM 누적 매출에 대해서도 신경전을 벌였다. 곽 사장은 기자간담회에서 2016년부터 올해까지 HBM 누적 매출 추정에 대해 “하반기 시장 변화도 있어 정확하게 말할 수는 없지만, 백수십억달러 정도가 될 것”이라고 답했다. 이는 같은 날 삼성전자가 HBM 관련 매출을 일부 공개한 것을 의식한 발언으로 업계는 보고 있다. HBM 사업을 담당하는 김경륜 삼성전자 메모리사업부 상품기획실 상무는 지난 5월 2일 뉴스룸 기고문에서 “올해 (삼성전자의) HBM 누적 매출은 100억달러(약 13조원)를 넘어설 것”이라고 밝혔다.

바짝 좁혀진 5세대 기술 간격

삼성, 엔비디아 수주 총력

2라운드 수주 경쟁의 전초전이 될 5세대 HBM3E 8단 경쟁은 이미 신호탄을 쐈다. 5세대 HBM3E 8단 경쟁에서는 SK하이닉스가 근소하게 앞선 가운데 두 회사 간 격차가 1분기 안팎까지 좁혀진 것으로 파악된다. 현재 엔비디아에 8단 HBM3E를 공급하는 업체는 SK하이닉스가 유일하며 삼성전자는 양산 초기 단계로 파악된다.

SK하이닉스가 1등을 굳힐지, 삼성이 역전에 성공할지 첫 가늠자는 HBM3E 12단 납품 여부에 달렸다. 두 회사가 HBM3E 12단 제품에 사활을 건 것은 엔비디아의 ‘AI 슈퍼칩’에 투입될 가능성이 높아서다. 엔비디아는 지난 3월 캘리포니아 새너제이 SAP센터에서 열린 개발자 콘퍼런스 ‘GTC 2024’에서 ‘블랙웰(Blackwell)’이라 명명한 신형 칩셋을 공개했다. 여기에는 현재 가장 앞섰다는 엔비디아 GPU H200을 넘어서는 B200이 들어간다. 현재 엔비디아 주력 AI 칩 H100에는 4세대 HBM 4개가 탑재된다. 차세대 AI 가속기 블랙웰(B200)에는 8단으로 쌓은 5세대 HBM3E 8개가 들어간다. 이 가속기는 H100보다 AI 추론 성능이 30배 이상 향상됐다.

삼성전자는 HBM3E 8단 양산에 이어 올 초 5세대 36GB 12단 제품 개발에 성공했다. 이 제품은 24Gb(기가비트) D램 칩을 TSV 기술로 12단까지 적층한 메모리다. 삼성전자는 지난 1분기 실적 발표에서 “HBM3E 제품 사업화는 고객사 타임라인에 맞춰 순조롭게 진행 중이며 이미 8단은 초기 양산을 개시했고 2분기 말부터 매출이 발생할 것”이라며 “업계 최초로 개발한 12단 제품은 현재 샘플 공급 중으로 2분기 중 양산할 예정”이라고 밝혔다.

역시 HBM3E 12단 제품을 개발 중인 SK하이닉스는 올 5월 샘플을 공급하고 3분기 양산에 들어간다. 곽노정 사장은 “리더십을 확고히 하기 위해 세계 최고 성능 HBM3E 12단 제품 샘플을 5월부터 제공하고 3분기 양산 가능하도록 준비 중”이라고 강조했다. SK하이닉스는 지난 2월 HBM3E 16단 칩 기술도 국제고체회로학회(ISSCC) 2024 콘퍼런스에서 공개했다.

5세대 HBM3E 이후 적층 난도가 큰 폭 뛰면서 6세대부턴 미세 공정에 특화한 파운드리 역량 확보가 화두로 떠올랐다. 사진은 삼성과 SK의 HBM3E 반도체.

진짜 승부처는 6세대

삼성, 턴키 수주 사활

HBM을 둘러싼 삼성전자와 SK하이닉스의 진짜 승부처는 6세대 HBM4가 될 전망이다. 6세대 HBM4는 설계부터 제조까지 기존 제품과는 차원이 다른 난도가 요구된다. 현재 AI 가속기는 엔비디아가 설계하고 TSMC가 후공정 패키징을 도맡는다. 이 과정에서 HBM이 함께 탑재되는 식이다.

6세대 HBM4부터는 공정 난도가 대폭 올라간다. 5세대 HBM3E는 1024개 입출력 단자(I/O)로 데이터를 전송한다. 6세대 HBM4에서는 단자 수가 이보다 2배 많은 2048개로 확대된다. HBM은 D램을 적층한 ‘코어다이’와 인터페이스 기능이 탑재된 ‘로직다이’로 구성되는데, 핵심은 ‘로직다이’다. 로직다이는 중앙처리장치(CPU) 같은 프로세서처럼 HBM을 통제하는 역할을 한다. 삼성과 SK는 5세대 HBM3E까진 로직다이를 직접 제조했다. 6세대 HBM4부턴 로직다이에 파운드리 미세 공정 적용이 필수다. 비슷한 크기 칩에 단자 수가 2배 늘어나므로 전력 소모를 줄여야 할 필요성이 커 더 미세한 공정이 요구된다.

삼성전자가 6세대 HBM에 승부를 건 이유도 여기에 있다. 엔비디아 같은 칩 제조사는 파운드리와 패키징 등의 전체 프로세스를 하나의 업체에 맡기고 싶어 한다. 삼성전자가 SK하이닉스를 내심 ‘한 수 아래’로 보는 인식이 있는 것도 패키징 등 후공정 역량 때문이다. SK하이닉스는 생산을 위해 TSMC 같은 파운드리 업체에 위탁해야 하지만 삼성전자는 일정 수준 자체 생산이 가능하다. 비용과 효율 측면에서 우위에 있는 것이다.

삼성전자는 종합반도체 기업으로 메모리와 파운드리 기술을 모두 확보하고 있다는 강점을 기반으로 ‘턴키 전략’으로 6세대 HBM4 수주전에 뛰어든다. SK하이닉스는 삼성전자의 파운드리 라이벌 TSMC와 손잡고 HBM4 개발에 나선다.

두 회사는 패키징 방식에도 자존심을 걸었다. 반도체는 크게 웨이퍼를 제조하고 회로를 새기는 전공정, 칩을 패키징하는 후공정으로 나뉜다. 전통적인 패키징은 단순히 제품을 출하하기 위한 포장 단계로 여겨졌다. HBM처럼 여러 개 칩을 입체적으로 배열해 집적도를 높이는 첨단 패키징 기술은 기존 방식과 천양지차다.

삼성전자는 ‘TC-NCF’ 방식으로 칩을 쌓는다. 칩 사이에 비전도성 접착 필름(NCF)을 넣은 뒤 녹여 연결한다. SK는 ‘MR-MUF 기술’을 쓴다. 여러 층의 D램을 한 번에 포장하는 기술이다. 칩 사이에 액체 형태 보호재를 한 번에 주입한 뒤 이를 굳혀 칩 간 연결을 강화하는 방식이다.

HBM4 이후 HBM4E·HBM5로 진화 과정에선 적층 난도가 확 뛰면서 새로운 패키징 방식이 대두될 수 있다. 최근에는 ‘하이브리드 본딩’ 공법이 주목받는다. 하이브리드 본딩은 칩 간 연결고리 소재인 ‘솔더볼(마이크로 범프)’을 없애고 칩과 웨이퍼 배선을 직접 붙이는 패키징 기술이다. 기존 공법보다 연결이 수월하고 높이를 낮출 수 있다.

AI 가속기가 고도화할수록 3D 적층이 기술 패권을 가를 핵심 요인으로 대두될 가능성이 높다. 기존 AI 가속기는 GPU와 HBM을 수평으로 연결하는 2.5D 구조다. 3D는 GPU 위에 HBM을 쌓는 식이다. 칩을 수직으로 쌓으면 전자 이동 거리가 짧아져 전류 이동 속도가 개선되고 이는 데이터 처리 속도 향상으로 이어진다. 3D 적층은 CMOS 이미지센서, HBM 등에 적용될 뿐 아니라, 다양한 영역으로 확대 중이다. 기능별 칩을 따로 제작한 후 단일 칩에 집적하는 칩렛, 웨이퍼와 웨이퍼를 적층하는 W2W 본딩, 웨이퍼 전면과 후면을 모두 활용하는 BSPDN 등 첨단 패키징 공법에는 고도의 3D 적층 기술이 필수적이다. 김정호 한국과학기술원(KAIST) 전기·전자공학부 교수는 수년 전부터 여러 논문을 통해 “앞으로는 트랜지스터 수가 아니라 ‘3차원 반도체 적층 구조’에서 답을 찾아야 한다”고 강조했다. 그러면서 “앞으로 2년마다 수직으로 적층되는 메모리 칩 또는 셀의 층수가 2배가 될 것”이라 예측했다.

패키징과 파운드리에선 종합반도체 기업 삼성전자가 SK하이닉스보다 비교우위에 있지만, 삼성 파운드리를 여전히 회의적으로 바라보는 시각이 적지 않다. 아직 삼성전자가 대형 고객사 반도체 위탁생산 물량을 수주한 사례가 외부에 알려진 적은 없다. 삼성전자는 공정별 매출을 전혀 발표하지 않는 데다 수율 개선 정도에 대해서도 모호한 표현으로 일관한다.

삼성의 2.5D 패키징 기술인 ‘아이큐브’를 두고도 대형 고객사가 단기간에 채용하기 힘들다는 우려가 나온다. 아직 트랙레코드가 없는 기술을 주요 고객사가 먼저 쓴다는 것은 상상하기 힘든 일이다. 이에 삼성전자는 시스템LSI사업부 제품부터 선단 기술을 적용해 트랙레코드를 확보한 뒤 퀄컴, 엔비디아 등 대형 외부 고객사를 유치하는 전략을 밟을 것으로 관측된다.

SK하이닉스 역시 패키징 부문에서 공격적인 설비 투자로 HBM ‘1등’ 굳히기를 노린다.

최근 SK하이닉스는 5조2000억원을 투자해 미국 인디애나주 웨스트라피엣에 AI 메모리용 첨단 패키징 생산기지를 건설하기로 했다. SK하이닉스가 AI 반도체 핵심인 HBM 생산공장을 해외에 짓는 것은 이번이 처음이다. 인디애나 공장에서는 2028년 하반기부터 차세대 HBM 등 AI 메모리 제품을 양산한다.

HBM 대체 시장 열릴까

차세대 메모리 CXL 각광

HBM 가격이 천정부지로 치솟으면서 대체 기술 시장이 열리는 점도 삼성전자에는 기회 요인으로 평가된다. 이름도 생소한 차세대 메모리 기술 CXL(Compute Express Link·컴퓨트 익스프레스 링크)이 대표적이다.

CXL은 메모리 용량을 유연하게 늘릴 수 있는 연결 기술이다. 인공지능처럼 방대한 데이터를 빠르게 처리할 때 필수 기술로 각광받는다. HBM이 D램 여러 개를 쌓는 적층 방식으로 메모리 성능을 끌어올린다면, CXL은 컴퓨터 내부 시스템 전체를 연결하고 합치는 식이다. 컴퓨터 두뇌인 중앙처리장치(CPU)와 GPU, 정보가 저장된 메모리 반도체 등 다양한 컴퓨팅 시스템이 통신하는 인터페이스를 하나로 통합해 데이터 처리 속도를 높인다. 이론상 서버에 필요한 D램을 거의 무한대로 확장할 수 있다.

메모리 용량을 유연하게 늘릴 수 있다는 점도 강점이다. 기존에는 서버를 사용하면 메모리 용량과 성능이 고정됐다. CXL 기반 메모리는 서버 여러 대가 메모리를 공유하므로 서버 구조를 손대지 않고도 메모리 용량을 손쉽게 확장할 수 있다. 가령, CPU당 16개 D램이 평균 최대치라면 CXL 기반 메모리는 용량을 최소 두 배 늘릴 수 있다. 가격 부담도 덜하다. HBM은 D램보다 7배 비싸지만 CXL을 활용하면 상대적으로 저렴한 DDR5 램으로 메모리 용량을 늘릴 수 있다.

HBM 1라운드에서 SK하이닉스에 뒤진 삼성전자는 CXL 분야에서는 단단히 벼른다. 삼성전자는 2021년 5월 세계 최초로 CXL 기반 D램 기술을 개발했다. 2023년 12월에는 CXL 관련 4종 상표를 출원하는 등 상용화에 속도를 낸다. 가시적 성과도 관찰된다. 삼성전자는 업계 최초로 기업용 리눅스 1위 기업 레드햇과 CXL 메모리 동작 검증에 성공했다. 삼성전자 CXL 기반 메모리가 컴퓨터 운영체제인 리눅스에서 정상적으로 작동했다는 의미다.

한편, 곽 사장은 HBM 시장에서 1등 리더십을 확보한 덕분에 향후 부회장단 경쟁 구도에서 유리한 입지를 점했다는 평가다. 최창원 SK수펙스추구협의회 의장의 신임이 두터운 것으로 알려진다. 삼성은 HBM 시장 선제 대응이 경쟁사 대비 늦었지만 이는 전임 CEO 임기 때 HBM 조직이 사실상 와해됐던 탓으로 경 사장 패착이라고 보기는 힘들다. 경 사장은 올 하반기 HBM 시장에서 그려내는 실적 궤적에 따라 거취가 판가름 난다.

[본 기사는 매경이코노미 제2259호 (2024.05.15~2024.05.21일자) 기사입니다]