▲ 출처=freepik  © 특허뉴스

엔비디아와 삼성전자의 협력 기대감으로 뜨거운 시장이 된 ‘HBM'

HBM은 'High Bandwidth Memory'의 약자로 고대역폭 초고속 메모리로, 고해상도 그래픽과 데이터센터, 인공지능 등 대량의 데이터 처리와 고속 데이터 전송에 사용되는 칩(chip)이다. 대역폭은 일련의 시간 내에 데이터를 전송하는 속도나 처리량, 즉 데이터 운반 능력을 의미한다.

▲ (좌)HBM-PIM칩/(우)삼성전자가 세계최초로 개발한 HBM3E 12H칩(출처=삼성전자 반도체 뉴스룸)  © 특허뉴스

HBM은 우리나라에서 최초 개발됐다. 지난 2013년 SK하이닉스가 세계최초로 HBM을 양산한 것을 시작으로 여러 세대 개발을 거쳐 지금의 5세대, 6세대 발전까지 이르렀다.

▲ HBM 세대별 변천사(출처=삼성전자 반도체 뉴스룸)  © 특허뉴스

HBM이 왜 최근 이슈일까? 바로 HBM이 AI 경쟁의 열쇠이기 때문이다. 갈수록 국가 및 기업 간의 AI, 인공지능 경쟁이 치열한 가운데, 많은 정보를 빠르고 정교하게 처리할 수 있는 컴퓨팅 능력에 HBM은 매우 중요한 필수품이기 때문에 HBM 개발 경쟁은 더욱 뜨거워질 수밖에 없다.

HBM의 시초이지만 여전히 시장을 주도 중인 SK하이닉스의 HBM 특허기술은 어떨까?

이 기술은 SK하이닉스가 출원한 HBM 메모리 구조이다. 메모리 내에 공유 채널을 구비하여 다수의 칩이 공유 채널을 통해 메모리를 공유할 수 있도록 하는 메모리 구조로, 이 메모리 시스템에는 칩과 긴 스택 메모리 간의 엑세스 타이밍과 데이터 공유를 관리할 수 있는 제어기가 포함되어 있다.

▲ 메모리시스템 Memory system(출처=윈텔립스, 10-2018-0152528)  © 특허뉴스

엔비디아의 선택을 받을 수도 있는 삼성전자 역시 후발주자이지만 차세대 HBM 시장의 게임체인저를 노리고 있다. 그렇다면 삼성전자는 어떤 HBM 기술을 개발했을까? 이 기술은 삼성전자가 출원한 HBM 시스템으로 삼성이 직접 개발한 ‘멀티 레벨 시그널링’이란 기술을 적용해 더욱 빠른 디지털 신호 처리가 가능한 시스템이다.

▲ 고대역폭 메모리 및 이를 포함하는 시스템(출처=윈텔립스, 10-2020-0007177)  © 특허뉴스

멀티 레벨 시그널링에 앞서 이 기술을 이해하기 위해서는 ‘인터포저’부터 알아야 한다. 인터포저는 미세 공정으로 제작된 상기 반도체 칩과 상기 패키지 기판 사이에 추가적으로 삽입하는 미세회로 기판을 의미한다. 반도체 기술을 기반으로 제조되는 실리콘 인터포저는 제작에 매우 많은 비용을 필요로 한다.

그래서 삼성전자는 멀티 레벨 시그널링을 이용하여 인터포저 없이도 신호처리가 가능한 고대역폭 메모리 시스템을 개발한 것이다. 이 덕분에 비용은 줄이고 더욱 빠르고 경량화된 HBM칩을 기대할 수 있다.

▲ 멀티 레벨 시그널링을 이용하는 고대역폭 메모리시스템(출처=윈텔립스, 10-2021-0010520)  © 특허뉴스

HBM 글로벌 경쟁에는 우리나라의 SK하이닉스와 삼성전자만 있지 않다. 바로 미국의 세계 3위 메모리 반도체 기업 마이크론 역시 강력한 경쟁기업이다. 무엇보다 마이크론은 미국의 자국 기업인 엔비디아와 AMD 간의 긴밀한 협력을 토대로 갈수록 점유율을 키워가고 있다. 최근에는 마이크론 5세대 HBM을 양상에 나섰다.

그럼 마이크론은 어떤 HBM기술을 개발했을까? 이 특허는 마이크론의 가장 기본적인 HBM 시스템이다. 8개의 메모리 뱅크를 사용하여 끊김없는 엑세스 처리를 지원하고 각 채널들은 서로 유연하게 고속의 데이터를 입출력할 수 있다.

▲ High bandwidth memory having plural channels(출처=윈텔립스, 10943622 B2)  © 특허뉴스

챗GPT부터 AI소라에 이르기까지 이제 AI 인공지능은 모든 전문가들의 예측을 뛰어넘는 속도와 수준으로 고도 성장중이다. 시장 전망이 밝은 AI의 덕분에 두뇌 역할을 하는 HBM 개발과 경쟁은 본격화되고 있다.

삼성전자의 12단 HBM 개발은 물론 SK하이닉스 역시 이미 8단 5세대 HBM칩 양산을 시작했고, 마이크론 역시 8단 HBM칩 양산에 들어갔다. 당분간은 주도권을 쥔 SK하이닉스가 앞설 것으로 예상되는 가운데 삼성전자와 마이크론의 추격전도 기대된다.