⁠⁠⁠⁠⁠⁠⁠

한국IT리더스포럼 6월 정기조찬회가 17일 서울 중구 한국프레스센터에서 열렸다. 김정호 카이스트 교수가 'AI 시대의 HBM의 미래와 반도체 패권경쟁'을 주제로 발표하고 있다. 김민수기자 mskim@etnews.com

“지금보다 더 많은 생성형 인공지능(AI)을 사용하려면 그래픽처리장치(GPU)가 아니라 고대역폭메모리(HBM)가 개선돼야 합니다. 차세대 HBM에서는 메모리에 시스템 반도체 역량을 결합하고 발열을 컨트롤할 수 있는 냉각 기술을 확보하는 게 핵심입니다”

김정호 한국과학기술원(KAIST) 전기·전자공학부 교수는 17일 서울 중구 프레스센터에서 열린 '한국IT리더스포럼' 조찬회에서 'AI 시대의 HBM 미래와 반도체 패권 경쟁'을 주제로 발표하면서 이같이 밝혔다.

김 교수는 최근 선풍적인 인기를 끈 챗GPT의 '지브리' 화풍 이미지 생성 과정에서 AI가 그림을 그리는 시간의 90% 이상은 HBM에 의해 좌우된다고 설명했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 “서버 과부하로 GPU가 녹아내릴 정도”라고 언급한 바 있는데, 김 교수는 사실 'HBM이 녹아내리는 것'이라며 “HBM이 핵심”이라고 강조했다.

이어 향후에도 '폰 노이만 구조'는 유효할 것으로 예상되는 만큼 AI 고도화를 위해선 HBM 성능을 끌어올려야 한다고 진단했다. 폰 노이만 구조는 중앙처리장치(CPU)와 메모리가 분리된 기존 컴퓨터 아키텍처로, 이 체계에서 벗어나는 건 어려워 HBM 중요성이 더욱 높아진다는 것이다.

김 교수는 차세대 HBM부터 메모리에 시스템 반도체 기능을 접목하는 기술 전환이 이뤄진다고 밝혔다. 현재 최신 제품인 5세대 'HBM3E'는 D램을 적층하는 형태지만, 6세대 'HBM4'는 데이터 처리 속도를 높이기 위해 베이스 다이(가장 아랫단 반도체)에 연산 기능을 수행할 수 있는 시스템 반도체 공정이 적용되기 때문이다.

그는 “HBM4는 메모리와 시스템 반도체가 융합되는 형태로, 패러다임이 확 바뀐다”며 “삼성전자와 SK하이닉스도 여기에서 치열한 주도권 경쟁을 벌이게 될 것”이라고 내다봤다.

이어 차세대 HBM은 냉각이 중요하다고 강조했다. 데이처 처리량 폭증으로 GPU가 뜨거워지면 열이 HBM까지 전달되는데, 이 발열을 통제하지 못하면 메모리에 저장된 데이터가 소실되는 문제가 발생해서다.

김 교수는 방열기 안으로 물을 통과시키거나 반도체 자체를 냉각액에 넣는 액침냉각, 칩 안으로 물을 흐르게 하는 기술이 개발될 것이라고 예상했다. 공기로 식히는 기존 공랭식 기술에서 진일보한 방식으로, 액침냉각은 HBM5·칩 안으로 물을 통과하는 기술은 HBM7 이후 상용화를 전망했다.

김 교수는 “미래 HBM에는 저전력 D램(LPDDR)을 활용하거나 플래시 메모리를 쌓는 고대역폭플래시(HBF) 기술도 등장, 표준형 메모리가 아니라 커스터마이징 제품으로 발전할 것”이라며 “기존 메모리에서 시스템 반도체로 변화하는 흐름에 잘 대처해야 미래 AI와 반도체 산업을 주도할 수 있다”고 강조했다.

한국IT리더스포럼 6월 정기조찬회가 17일 서울 중구 한국프레스센터에서 열렸다. 김정호 카이스트 교수가 'AI 시대의 HBM의 미래와 반도체 패권경쟁'을 주제로 발표하고 있다. 김민수기자 mskim@etnews.com

이호길 기자 eagles@etnews.com

Copyright © 전자신문. 무단전재 및 재배포 금지.