HBM-PIM

HBM-PIM 메모리 업계는 차세대 메모리반도체로 HBM 과 3D DRAM, 그리고 PIM 을 주시 하고 있다. AI 기술이 발전하면서 증가하는 데이터를 처리하기 위해서는 3D 구조뿐만 아니라, PIM 설계가 필수적인 것이다. PIM 도입을 통해 전력 효율 개선도 가능해진다. PIM 은 DRAM 에 연산 기능을 더해 AI 와 빅데이터 처리에서 속도 향상은 물론 전력 효율 개선이 가능하다.

구조?

HBM-PIM 은 기본적으로 3D 입체 구조를 갖는다.

HBM 을 구성하는 보드 위에 BGA 구조로 실리콘 인터포저가 올라간다. 그리고 그 위에 호스트 CPU, DRAM 다이, HBM이 올려져 실리콘과 TSV 구조로 연결된다. 실리콘 인터포저와 보드 간에는 시스템 프로그램이나 어플리케이션이 내재된 플래시메모리가 올려져 있다. 이 전체를 SIP(System in Package) 구조로 만들어 하나의 패키지가 만들어진다.

 

어떤 면이 좋나?

HBM-PIM 구조의 메모리를 사용하면 속도개선이 3.2 배 정도 빨라지나, 전력 소모는 기존 대비 절반으로 감소하기 때문에 동일 성능 기준 1/6 정도로 전력소모가 줄어들게 된다.

 

이러한 구조를 만들 때 유의점?

HBM 구조의 메모리 제품을 만들기 위해서는 적층과 성능 모두 개선되어야 하는데, 이를 위해 TSV(실리콘 관통전극) 기술이 핵심이 된다. HBM3에는 1,024 개의 TSV가 적용되는데, 이 과정에서 발생하는 방열 문제와 반도체 칩과 기판을 붙이는 본딩 기술이 상당히 중요한 이슈가 될 수 있다.

 

왜 필요하나?

GPT 서버가 표준 서버 보다 더 많은 메모리가 필요로 하기 때문에 향후 생성형 AI가 메모리 수요를 주도할 것이라고 한다. 효과적 AI 서비스를 위해서는 더 강력한 프로세서는 물론이거니와 더 빠른 대용량 메모리와의 연결성이 중요하다.

 

성장? 가격?

HBM 기술과 PIM 이 합쳐진 HBM-PIM 이 앞으로 높은 성장세를 보일 전망이다. 참고로, HBM2DRAM의 가격은 대략 GB당 약 10달러 이상으로 일반 DDR4 대비 5배 이상인 것으로 파악되고 있다.

어떤 제품?

삼성전자는 올해 기존 AI 서버용 GPU와 짝을 이루는 HBM에 연산 기능을 추가 한 제품 HBM3-PIM 을 준비 중

HBM 분야 세계 1 위인 SK 하이닉스는 이미 3세대 HBM2E 에 이어 4세대 HBM324GB 제품을 지난해 개발에 성공했고, 올 해 들어 다수의 글로벌 고객사에 샘플 검증을 진행 중임.

 

 

반도체 - 2023년 하반기 산업 전망, Dark Clouds and Siver Linings.pdf

3.06MB