【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]삼성전자 "zHBM으로 AI 응답속도 10배…가속기 위 메모리 쌓는다"

온카뱅크관리자

2026-09-17 09:57:25

<div id="layerTranslateNotice" style="display:none;"></div> "호텔 객실서 1층 로비 직행하듯"…AI 칩·HBM 데이터 이동거리 줄여 온디바이스 AI용 z낸드-O도 공개…2028년 샘플 공급 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="tR7aF1yOTx">
 [아이뉴스24 권서아 기자] 삼성전자가 인공지능(AI) 연산을 담당하는 반도체 위에 고대역폭메모리(HBM)를 직접 쌓아 AI의 답변 속도를 현재보다 10배 높이겠다는 목표를 제시했다.
 17일 업계에 따르면 김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무는 16일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'AI 인프라 서밋'에서 "현재 대화형 AI 시스템의 응답 속도는 이용자당 초당 100토큰 수준"이라며 "앞으로 에이전트형 AI를 위해 이를 초당 1000토큰으로 10배 끌어올리는 양자 도약을 목표로 하고 있다"고 말했다.
 <figure class="figure_frm origin_fig" contents-hash="388775115613e91c74f3edb3665272d7e5ccde05b89f3fc511309b01646719ff" dmcf-pid="0JBAp3Ghv6" dmcf-ptype="figure">
 <img alt="김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무가 16일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'AI 인프라 서밋'에서 발표하고 있다. 2026.9.16 [사진=연합뉴스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/17/inews24/20260917094808799uucr.jpg" data-org-width="580" dmcf-mid="9bcFonQ9hw" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/17/inews24/20260917094808799uucr.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무가 16일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'AI 인프라 서밋'에서 발표하고 있다. 2026.9.16 [사진=연합뉴스]
 </figcaption>
 </figure>
 토큰은 AI가 문장을 읽고 답변을 만들 때 처리하는 기본 단위다. 초당 처리하는 토큰이 많을수록 이용자가 답변을 받아보는 속도도 빨라진다.
 삼성전자가 이를 위해 제시한 기술이 'zHBM'이다.
 AI 가속기는 AI가 요구하는 대규모 연산을 빠르게 처리하는 반도체다. 그래픽처리장치(GPU)와 신경망처리장치(NPU) 등이 대표적이다. HBM은 이 가속기가 연산에 필요한 데이터를 빠르게 받아볼 수 있도록 공급하는 고성능 메모리다.
 <figure class="figure_frm origin_fig" contents-hash="f7fb6458d32bc2c40c50ba381fea13adeab0d2a8f0b4cc866ef5faeeed2e213c" dmcf-pid="7R7aF1yOvV" dmcf-ptype="figure">
 <img alt="삼성전자 zHBM 목업. [사진=삼성전자]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/17/inews24/20260917094809046rlis.jpg" data-org-width="580" dmcf-mid="Vsev64qFhE" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/17/inews24/20260917094809046rlis.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 삼성전자 zHBM 목업. [사진=삼성전자]
 </figcaption>
 </figure>
 현재는 AI 가속기와 HBM을 실리콘 인터포저라는 넓은 연결판 위에 나란히 놓는 방식이 주로 쓰인다. 가속기와 HBM 사이에서 데이터를 주고받으며 AI 연산을 처리한다.
 zHBM은 이 구조를 위아래로 바꾼다. HBM을 AI 가속기 바로 위에 쌓아 두 반도체 사이의 물리적 거리를 줄이는 방식이다.
 김 상무는 이를 "호텔 객실 내에 1층 로비로 직행하는 전용 엘리베이터를 두는 것"에 비유했다.
 객실에서 복도와 여러 경로를 거치지 않고 바로 로비로 내려가듯 가속기와 메모리를 직접 연결해 데이터 이동거리를 줄이겠다는 의미다. 이동거리가 짧아지면 데이터를 더 빠르게 주고받을 수 있고 전력 소모도 줄일 수 있다.
 삼성전자는 zHBM이 다다음 세대 제품인 HBM5(8세대)와 비교해 최대 8배의 성능과 3배 이상의 전력 효율을 구현할 수 있을 것으로 보고 있다.
 과제는 발열이다. AI 가속기는 대규모 연산을 처리하면서 많은 열을 내는데, 그 위에 HBM을 직접 쌓으면 이 열이 메모리로 전달될 수 있다.
 삼성전자는 AI 가속기 고객사와 설계 초기부터 협업해 가속기 구조와 발열 특성에 맞는 메모리 구조와 열 관리 방식을 함께 설계한다는 계획이다.
 <figure class="figure_frm origin_fig" contents-hash="da5d7261c5c218facea0c8f18f845b195ace6b2607a6232a8e355493eb60ec49" dmcf-pid="Vo2Dzu5Ty7" dmcf-ptype="figure">
 <img alt="삼성전자 zNAND-O 목업. [사진=삼성전자]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/17/inews24/20260917094809302ajqs.jpg" data-org-width="580" dmcf-mid="1Q5RWTsAyM" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/17/inews24/20260917094809302ajqs.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 삼성전자 zNAND-O 목업. [사진=삼성전자]
 </figcaption>
 </figure>
 스마트폰이나 PC, 워크스테이션 등 기기 자체에서 AI를 구동하는 '온디바이스(기기내장형·on-device) AI'를 공략한 'z낸드-O' 로드맵도 공개했다.
 낸드플래시는 전원이 꺼져도 저장된 데이터가 사라지지 않는 '비휘발성 메모리'다. 전원이 끊기면 저장 내용이 사라지는 D램과 달리 데이터를 장기간 보관할 수 있고, 같은 용량을 구성할 때 비용도 상대적으로 낮다.
 다만 D램보다 데이터 처리 속도는 느리다. 삼성전자는 z낸드-O를 통해 이 속도 차이를 줄이면서도 대용량 AI 모델을 보다 낮은 비용으로 구동할 수 있도록 한다는 구상이다.
 김 상무는 "오는 2030년이 되면 AI 워크스테이션 등의 환경에서도 매개변수(파라미터) 1조개 수준의 거대 AI를 자체 구동하는 사례가 보편화할 것"이라고 전망했다.
 파라미터는 AI가 학습한 정보를 바탕으로 답을 만들어낼 때 사용하는 값이다. AI 모델 규모가 커질수록 이를 구동하기 위해 필요한 메모리 용량도 늘어난다.
 삼성전자에 따르면 1조개 파라미터 규모 AI를 D램만으로 구동할 수 있도록 메모리를 구성하면 비용 부담이 커진다. z낸드-O를 적용하면 이를 D램 기반 구성의 6분의 1 수준 비용으로 구현할 수 있다는 설명이다.
 삼성전자는 오는 2028년 z낸드-O 샘플 공급을 시작할 예정이다.
 김 상무는 "AI 반도체 경쟁의 핵심인 '시장 출시 속도'에서 고객사들에 독보적 가치를 제공할 것"이라고 말했다.
 <address contents-hash="d7d8b8311a0b34f4a4af202c6c0c092332f722e8972e3ed7acf24451bbd9c815" dmcf-pid="WgVwq71yC5" dmcf-ptype="general">/권서아 기자<a href="mailto:seoahkwon@inews24.com" target="_blank">(seoahkwon@inews24.com)</a>
</address>
 </section> 
 </div> 
 Copyright © 아이뉴스24. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기