반도체-대만 일본 기업 탐방 후기(현대차증권)

HBM 시장을 주도하고 있는 한국 기업들 생산 Capa 확대 집중

 

AI학습용 GPU는 대부 분 HBM장착 / 2024년말 북미 Big Tech 기업들의 자체 Accelerator 비중 확대는 변수가 될 전망

 

HBM4에서 주요 기술 변화는 Logic Die의 Foundry공정 적용과 Hybrid Bonding 기술 적용 여부 A100/H100 초과수요는 2024년 3분기까지 이어질 전망 / CoWoS Capa2배로 확대, Bottle Neck은 Silicon Interposer가 될 전망 GPU, FPGA 등에 탑재되는 HBM 시장이 AI학습용 GPU 수요 증가와 함께 빠른 속도로 저변이 확대되고 있다.

현재 NVIDIA의 H100/A100 제품은 모두 GDDR6가 아닌 HBM과 함께 Packaging되어 있다.

HBM은기존GPU에 장착되던GDDR을 대체하는 제품으로 1) Low Memory Latency와 2) 높은 대역폭에 기반한 데이터 처리 속도, 3) 효율적인 소비전력을장점으로해서Accelerated Computing을 위해수요가 급증하고 있다. 다만, 높은 기술 구현 난이도와 Logic Die 탑재 등 GDDR대비 원가가 크게 상승한다는 단점을 가지고 있다. 하지만, ChatGPT 열풍이 그와 같은 단점을 고려하지 않을 정도로 초과 수요을 발생시키고 있다.

현재 HBM시장에서는 HBM3를 선제적으로 개발한 SK하이닉스가 시장 점유율 1위를 기록하고 있지만, 최근 삼성전자도 주요 고객사를 중심으로 HBM3의 Validation이 가시화됨에 따라 삼성전자의 점유율도 동반 상승할 것으로 예상된다. HBM의 경우 높은 원가로 인해 기존 GDDR 제품 대비 3배 이상 비싸 게팔아야 수익성이 보장된다. 다만,HBM Capa의경우 제품특성으로 인해 해당 수요가 없을 경우 다른 용도로 재활용하기 어렵다는 점에서 장기적인 HBM 수요 전망도 중요하다. NVIDIA의 학습용 GPU가 너무 고가라는 점에서 북미의 주요 Big Tech 기업들은 자체 Accelerator (NPU) 성능 개선에 집중하고있다.2024 년말부터 북미 Big Tech 기업들이 Chatbot용에 자체 NPU 비중을확대할 경우 HBM 수요에는 부정적으로 작용할수 있다.

한편, HBM3을탑재하는 NVIDIA의H100은A100 대비가격 Premium이크다는 점에서 내년에도 전체 HBM3의 HBM 시장 내 비중은 22%에 그칠 것으로 보인다.

한편, HBM3까지는 Micro Bump를 통해 적층하지만, 향후 HBM4에서는 기술적인 변화가 크게 나타날 것으로 보인다. 제일 많이 거론되고 있는 점은 Logic Die를 3D FinFet 공정 등 Foundry 공정을 통해 생산할가능성이다. Foundry 공정을 통해 Logic Die 를생산할 경우 Memory Controller 등을GPU에서 Logic Die로옮기면서전력 사용의 효율성이 제고될 수 있다. 여기에D2W (Die To Wafer)가 가능한 Hybrid Bonding 기술을 적용해서 배선 길이를 줄여 I/O 밀도를 높일 것으로 보인다. 이미 AMD는 동 기술을 적용한 3DV-Cache 제품인 Ryzen7 5800X3D 제품을 2022년 4월에 출시하였다. 동 기술이 HBM4에도 적용될 가능성이 크며, Besi 등이 관련 장비 개발을 위해 노력중이다.

내년 3분기까지는 A100/H100에 대한 초과 수요는 이어질 것으로 보이며, 현재 A100/H100 모두 TSMC에서 Foundry하고 있으며 후공정도 TSMC의CoWoS 기술이적용되고 있다. 특히, A100/H100 모 두 CoWoS-S (Silicon Interposer) 기술이 적용되고있다. 예상보다 큰수요로인해 TSMC도 CoWoS Capa 를 증설하고 있으며, 연말 Capa는 현재의 2배인 월 38K까지 증가할 것으로 보인다. HBM도 DRAM회사들 모두 Capa 증설을 하고 있다는 점에서 공급 차질은 크지 않을 것으로 예상된다. 다만, 반도체 Fab에서 만들어야 하는 Silicon Interposer의 경우 TSMC도 일부 공급에 차질이있다는 소문도 있다. 현재 부족분을 대응할 수있는회사는 삼성전자, UMC 등이 가능하며향후동 부분이 부각될경우NVIDIA내에서의 삼성 전자의입지 강화에 긍정적으로작용할 것으로 보인다.

 

 

 

 

 

 

 

 

반도체 - 대만, 일본 기업 탐방 후기.pdf

16.73MB