HBM 반도체 삼국지…승부 가를 이 기술은?

SK하이닉스 HBM3EⓒSK하이닉스

러시아-우크라이나 지정학적 위기, 글로벌 공급망 이슈, 금리 인상에 따른 경기 침체. 2022년 하반기부터 불어닥친 악재들은 반도체 산업을 무자비하게 뒤흔들었다.

고객사들이 너도나도 지갑을 닫자 삼성·SK 등 메모리 제조사들은 궁여지책으로 감산을 택했고 재고 줄이기에 안간힘을 썼다. 그럼에도 지난해 삼성전자 DS(반도체)와 SK하이닉스는 총 23조원의 대규모 영업손실을 봐야했다.

극심한 반도체 불황 속에서도 희망은 있었다. 챗GPT로 촉발된 생성형 AI(인공지능)에 대한 관심이 AI 산업 발진을 부추긴 것이다. AI를 학습시키는 고성능 GPU(그래픽장치)와 많은 데이터를 빠르게 처리하는 HBM(고대역폭메모리) 수요가 유일하게 성장가도를 달리자 메모리 반도체 제조사들은 일제히 차세대 HBM 개발에 뛰어들었다.

엔비디아와 발 빠르게 연합전선을 구축한 SK하이닉스는 GPU/HBM 호조에 힘입어 지난해 3분기 D램 사업 흑자전환, 4분기 전사 흑자전환에 성공했다. 낸드플래시 부진은 여전했지만, 이를 만회할만큼 D램 성장세가 뚜렷했기 때문이다.

SK하이닉스는 세계 최초로 2021년 HBM3를 개발하고 2022년 양산에 성공했다. 이어 기존 제품과 동일한 크기로 더 많은 용량을 제공하는 12단 적층 HBM3 24GB(기가바이트) 패키지 개발도 처음 성공하는 등 기술 속도전을 펼치며 HBM 시장에서 유리한 입지를 구축했다.

HBM은 여러 개의 D램 칩을 TSV(실리콘 관통 전극)로 쌓아 올려 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치 제품을 말한다. 현재 제조사들은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발하고 있다.

여기서 HBM3E는 HBM3의 확장형 모델로, 속도부터 발열 제어, 고객 사용 편의성 등 모든 측면에서 현존 최고 수준이라는 평가를 받는다. 가격도 기존 제품 보다 5~7배 비싸기 때문에 팔수록 이득이다. SK하이닉스의 흑자전환의 일등공신도 HBM이 꼽힌다.

앞으로 5년간 연평균 AI 서버 성장률은 40% 이상, HBM은 60~80%로 전망돼 반도체 기업로서는 황금알을 낳는 거위인 HBM을 더더욱 놓칠 수 없다.

메모리 3사, HBM3E로 올해 반도체 경쟁 나서

메모리 반도체 3사인 삼성전자·SK하이닉스·마이크론은 올 상반기 AI용 초고성능 D램 신제품인 HBM3E을 일제히 내놓으며 HBM 경쟁을 펼친다. 이 과정에서 HBM ‘큰 손’으로 꼽히는 엔비디아가 누구의 손을 들어줄지 관심이다.

마이크론은 선제 공격을 펼쳤다. 26일(현지시간) 홈페이지를 통해 HBM3E를 올 2분기부터 출하한다고 밝혔다. 특히 이 회사는 HBM3를 건너뛰고 HBM3E로 직행하는 승부수를 띄웠다. 이례적으로 고객사(엔비디아) 이름도 밝혔는데, 그간 후발주자로 여겨진 마이크론이 차세대 HBM 경쟁에서는 삼성·SK를 압도하겠다는 포부로 보인다.

그런가하면 삼성은 한 발 앞선 기술력으로 HBM3E 승부를 예고했다. 경쟁사가 8단으로 D램을 쌓아 24GB 용량을 구현하는 것과 달리 삼성은 12단까지 적층해 업계 최대 용량인 36GB를 구현했다. 삼성은 HBM3E 샘플을 고객사에게 제공중으로, 상반기 내 양산에 돌입하겠다고 했다.

그동안 엔비디아에 가장 많은 HBM을 공급해온 SK하이닉스로서는 위기이고 경쟁사들에게는 반전 기회가 될 수 있는 상황이다. 다만 SK하이닉스의 방어전도 만만치 않다. 8단·24GB HBM3E를 지난 1월 초기 양산을 시작했고 가까운 시일 내 고객사(엔비디아) 인증을 받아 양산을 시작하겠다는 계획을 세웠다.

3사의 각축전이 한층 치열해진 가운데 얼마나 탄탄한 수율(양품 비율)을 갖췄는지가 최종 승부를 가릴 것으로 보인다.

삼성전자 HBM 기술 개발 현황ⓒ삼성전자 반도체 뉴스룸

높아지는 적층 기술력이 승부처…엔비디아 선택 관심

수율을 좌우하는 건 디테일이다. D램 칩을 쌓는 과정에서 밑으로 압력이 가해지면 웨이퍼 휨(Warpage) 현상이 생기는 데, 이를 극복하면서 D램 칩을 안정적으로 쌓는 기술이 필요하다. 이 적층 방식은 MR-MUF(매스리플로우-몰디드언더필), TC-NCF(열압착-비전도성 접착 필름) 등으로 나뉜다.

현재 SK하이닉스가 전자를, 삼성전자와 마이크론이 후자의 방식을 택하고 있다. 두 방식 모두 완성된 칩에 데이터 이동과 전기 전달을 가능하게 하고, 외부 환경으로부터 제품을 보호하는 역할을 한다.

MR-MUF는 칩을 모두 쌓은 뒤 액상 재료인 MUF를 흘려 넣어 MR을 통해 굳히는 방식이다. SK하이닉스는 ‘칩 제어 기술’과, ‘신규 보호재’로 열 방출을 개선한 어드밴스드 MR-MUF 기술을 통해 HBM을 생산중이다.

삼성전자의 TC-NCF 공정은 D램을 적층하는 사이 공간에 NCF라는 특수 필름을 넣고 열과 압력을 가해 부착하는 기술이다. 삼성전자는 NCF 기술을 자체 개발해 수 년간 사용해오고 있다. 최근 개발한 12단 HBM3E은 ‘어드밴스드 TC NCF’ 기술을 적용해 줄어드는 칩간 간격 및 휘어짐 현상 등 기술적 문제들을 보완했다고 강조한다.

HBM4·5·6 등 차세대 HBM에서는 제한된 높이에서 더 많은 D램을 쌓아 올려 칩 사이 두께가 더욱 얇아질 것으로 예상된다. 이 때 발생하는 휨 현상을 막고 불량을 줄이는 것이 관건이 될 전망이다. 이를 극복하기 위해 범프 없이 칩과 칩을 접착하고, 데이터 통로를 곧바로 연결하는 ‘하이브리드 본딩(Hybrid bonding)’ 방식이 대안이 될 것으로 보인다.

삼성은 HBM 제품 두께 제약 극복이 필요한 HBM4 16단 제품에서도 칩 사이 갭을 완전히 없애고 칩과 칩을 완전히 붙이는 신공정을 개발중이라고 했다. SK하이닉스도 본딩(접착) 기술을 고도화한 신제품을 개발, HBM 시장 리더십을 지속해서 유지해 나간다는 목표를 세웠다.