로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[실시간뉴스]
[2027 수능] 단추 스티커 학생이 직접… “신체 접촉 말라” 당부도
N
[실시간뉴스]
김민석, 추경호 무죄에 "법원의 퇴행적 판결"… 정청래 "조희대 탄핵"(종합)
N
[IT뉴스]
간헐적 단식으로 면역세포 굶겼더니…암세포와 더 잘 싸우네
N
[IT뉴스]
동남아 스마트폰 출하 급감…메모리 공급난에 고가 전략 선회
N
[IT뉴스]
응급 산모 이송부터 고립 노인까지 해결한 ‘이 기업’…공공 혁신 사례 봤더니
N
커뮤니티
더보기
[자유게시판]
드디어 금요일이군요
[자유게시판]
오늘 다저스 어떻게 생각하시나요
[자유게시판]
하아 댓노
[자유게시판]
식곤증지립니다요
[자유게시판]
벌써 불금이네요
목록
글쓰기
[IT뉴스]HBM만으론 부족…AI 메모리 계층화 경쟁 본격화 [반도체레이다]
온카뱅크관리자
조회:
9
2026-11-18 16:37:25
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 추론 확산에 용량·비용 부담 증가…CXL·SOCAMM2·SSD 등 활용 주목</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="u51XhTDgW1"> <figure class="figure_frm origin_fig" contents-hash="5e92930f09dda6849f9b22f577e3f74cdfc9af07531ce017c3981d146c5ace0c" dmcf-pid="71tZlywal5" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/18/552796-pzfp7fF/20261118163330882eoqs.png" data-org-width="640" dmcf-mid="UwEAdL8Byt" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/18/552796-pzfp7fF/20261118163330882eoqs.png" width="658"></p> </figure> <p contents-hash="f1cbb0ae29f0378ee766c4860d3cd7b90109123d727875016397929004bd5d1a" dmcf-pid="ztF5SWrNvZ" dmcf-ptype="general">[디지털데일리 고성현기자] 인공지능(AI) 인프라 시장에서 고대역폭메모리(HBM)를 보완할 다양한 메모리 기술이 등장하고 있다. AI 추론 수요가 늘면서 메모리 용량과 데이터 처리 부담이 커진 영향이다. 메모리 제조사뿐 아니라 팹리스와 스토리지·소프트웨어 기업들도 관련 시장에 뛰어들고 있다.</p> <p contents-hash="f471fbbad9a4e1da0d1075c513c129bf396f4b8d78172853aefd33e8dc07422c" dmcf-pid="qF31vYmjyX" dmcf-ptype="general">18일 업계에 따르면 주요 반도체 기업들은 AI 서버의 메모리 부족 문제를 해결하기 위한 다양한 기술 개발에 나서고 있다. 급증한 데이터 양에 따른 비용 증가로 CPU와 GPU 주변에 별도 메모리를 연결하거나 저장장치를 활용해 데이터를 분산하는 방식으로 확대되는 추세다.</p> <p contents-hash="1951ab1a6c9b36e223f0220c05f25e99c1be4afb407a16491f991994b3849dcf" dmcf-pid="B30tTGsAyH" dmcf-ptype="general">최근 AI 데이터센터는 추론 인프라 확대로 구축 비용이 급격히 늘고 있다. AI 모델이 대형화되고 이용자의 대화가 길어지면서 이전 연산 결과를 저장하는 KV 캐시도 빠르게 증가하고 있어서다. KV 캐시는 AI가 답변을 생성할 때 앞서 처리한 정보를 다시 계산하지 않도록 보관하는 데이터다. 이를 모두 HBM에 저장하려면 GPU를 추가 도입해 메모리 용량을 확보해야 하므로 설비투자 부담이 커진다.</p> <p contents-hash="38881d7e4bda9b8a85159d82d2d42eeffa3b632808fdea2248cd1db4b621fb0d" dmcf-pid="b0pFyHOcTG" dmcf-ptype="general">AI 에이전트와 검색증강생성(RAG) 기술의 확산은 데이터 처리 부담도 높이고 있다. AI가 외부 데이터베이스(DB)에서 필요한 정보를 검색하고 불러오는 작업이 늘면서 CPU에 연결된 D램의 용량과 대역폭 요구도 커지고 있다. GPU의 HBM 역시 대규모 연산 데이터를 처리해야 하는 만큼 메모리에서 연산장치로 데이터를 공급하는 속도가 전체 성능을 제한하는 '메모리 장벽(Memory Wall)' 문제가 부각되고 있다.</p> <p contents-hash="28eb377afcbf5cd3f25f9ef65db18c23e5acdd7f9eef22082a1a0cf7de2a31b7" dmcf-pid="KpU3WXIkvY" dmcf-ptype="general">메모리 계층화(Memory Hierarchy)는 이 같은 문제를 해결하기 위한 대안으로 떠오르고 있다. 빠른 처리가 필요한 데이터는 GPU의 HBM에 저장하고, 상대적으로 접근 빈도가 낮거나 용량이 큰 데이터는 CPU의 시스템 D램과 외부 확장 메모리, SSD 등에 분산하는 방식이다. 이를 통해 HBM의 용량 부담을 덜고 데이터 처리 효율과 비용 경쟁력을 높일 수 있다.</p> <p contents-hash="382e55c0b75b1dac6c753a1f6775caef55398ad9ec80e6ea321d485356c595a1" dmcf-pid="9sOrgARfCW" dmcf-ptype="general">CPU 메모리의 경우 저전력 D램(LPDDR D램)을 활용한 서버용 메모리 모듈 '소캠(SOCAMM)'이 판도를 넓히고 있다. 소캠은 기존 서버용 메모리보다 크기가 작고 전력 소모가 적어 상대적으로 비용을 줄이는 데 유리하다. 이와 함께 높은 데이터 전송 속도를 지원해 기존 시스템 메모리와의 격차를 좁혔다. 엔비디아는 차세대 AI 플랫폼인 베라 루빈(Vera Rubin)의 베라 CPU에 2세대 모듈인 소캠2(SOCAMM2)를 적용했고, SK하이닉스와 마이크론, 삼성전자 등으로부터 이를 공급받고 있다. 이밖에 서버용 D램의 속도를 높이는 MRDIMM과 용량을 늘리는 3DS RDIMM 등도 비용 효율화·성능 향상을 목표로 개발되고 있다.</p> <p contents-hash="dac6eb81dae4fa08cc182d60c6bc8f6f308bafca45df2e619ab819a26c50100b" dmcf-pid="2OImace4Sy" dmcf-ptype="general">시스템 메모리의 용량을 늘리는 기술도 등장하고 있다. 대표적인 사례가 컴퓨트익스프레스링크(CXL)다. 서버에 별도 메모리 등 장치를 추가하거나 여러 서버가 하나의 메모리 풀을 공유하도록 지원하는 연결 기술이다. 기존 메모리 슬롯을 늘리지 않고도 PCI익스프레스(PCIe) 카드 형태로 D램을 추가할 수 있다는 점이 특징이다.</p> <p contents-hash="358382074befcd78ee24e591ca15d9bce8b8eabf8b738abb0d0f781a7f112eec" dmcf-pid="VICsNkd8hT" dmcf-ptype="general">삼성전자와 SK하이닉스는 각각 CMM-D와 CMM-DDR5 등 CXL 기반 확장 메모리를 개발 중이며, 이를 인텔, AMD 등 주요 CPU 설계·제조업체와 호환하기 위한 검증 작업을 거듭하고 있다. 이밖에 국내 팹리스인 프라임마스도 자체 컨트롤러를 활용한 확장 카드와 대용량 메모리 공유 솔루션을 개발하고 메모리사 등과 협력을 논의하고 있다. 프라임마스는 서버 여러 대가 메모리를 나눠 쓰거나 별도 스위치 없이 메모리를 연결하는 기술까지 확보한 상태다.</p> <p contents-hash="f997b2821ad8f3bdf6bd698314f093a2c83ad08ec8562787739e826e8bed7d91" dmcf-pid="fChOjEJ6hv" dmcf-ptype="general">최근에는 D램과 SSD를 하나의 시스템으로 묶는 방식도 등장했다. 엑시나는 자체 CXL 컨트롤러인 MX1을 활용해 D램과 SSD를 결합하는 하이브리드 메모리를 개발하고 있다. 지난달 OCP 글로벌 서밋에서는 SK하이닉스, AMD, 펭귄솔루션스 등과 함께 관련 메모리 랙을 시연했다. SK하이닉스도 메모리 내부에서 일부 연산을 수행하는 CMM-Ax를 선보이며 데이터 이동을 줄이는 기술을 확대하고 있다.</p> <p contents-hash="726f4be34a71789aaaf32b9f0f0822b1b683bca74d0de118e7dd8ef0c2854ab2" dmcf-pid="4hlIADiPlS" dmcf-ptype="general">HBM과 기존 SSD의 성능·용량 차이를 메우기 위한 기술도 개발되고 있다. SK하이닉스와 샌디스크가 표준화를 추진 중인 고대역폭플래시(HBF)가 대표적이다. 낸드플래시를 여러 층으로 쌓아 SSD보다 빠르게 데이터를 공급하면서 HBM보다 많은 데이터를 저장하는 것이 목표다. AI 추론에서 대규모 모델 데이터와 KV 캐시를 관리하는 용도로 활용될 것으로 기대된다.</p> <p contents-hash="3c2fe48537e2d8eb1c4c6df5a54272a5efe66a9e90ca03dfd9ff089c408b6e29" dmcf-pid="8lSCcwnQWl" dmcf-ptype="general">SSD를 단순 저장장치가 아닌 메모리의 일부로 활용하려는 움직임도 늘고 있다. GPU 메모리에 모든 데이터를 보관하지 않고 사용 빈도가 낮은 KV 캐시 등을 SSD로 옮겼다가 필요할 때 다시 불러오는 방식이다. SSD를 활용하면 HBM의 용량 부담을 줄이고 더 많은 AI 요청을 처리할 수 있다.</p> <p contents-hash="6417806e9bf284bb6e8d31c04fea65dcbe7d622d7b438a7db7bd5a5c9f6f9ef7" dmcf-pid="6SvhkrLxlh" dmcf-ptype="general">스토리지 소프트웨어 기업 WEKA는 SSD에 대규모 KV 캐시를 저장하고 여러 GPU가 공유하도록 하는 기술을 개발했다. 솔리다임도 메트럼AI와 협력해 데이터센터용 SSD로 KV 캐시를 관리하는 방식을 검증했다. 메트럼AI가 공개한 시험에서는 반복적으로 사용하는 데이터를 SSD에서 불러오는 방식으로 첫 응답까지 걸리는 시간을 최대 6.7배 줄였다.</p> <p contents-hash="8d2bfbc5fb1d720e3a45f2578e6d970485ebdbdb877b7387f299208ffea31aff" dmcf-pid="PvTlEmoMTC" dmcf-ptype="general">반도체 업계는 AI 인프라 내 메모리 장벽을 해소하기 위한 기술 개발이 확대되면서 시장 주도권 경쟁도 치열해질 것으로 보고 있다. 아직 차세대 메모리 솔루션 전반에 통용되는 명확한 표준이 자리 잡지 않은 만큼 상용화를 통해 성능과 비용 효율성을 빠르게 입증하는 것이 중요해져서다. 실제 적용 사례를 먼저 확보한 기업일수록 고객사 공급을 확대하고 향후 시장 표준을 주도할 기회도 커질 전망이다.</p> <p contents-hash="392b9793b5d3c61f598acdf624ae4a7ea049900a38bf8b7782ccbee13b8e0256" dmcf-pid="QTySDsgRyI" dmcf-ptype="general">업계 관계자는 "메모리 장벽을 해소하기 위한 다양한 기술이 등장하고 있지만 아직 뚜렷한 대안이 자리 잡지 못한 상황"이라며 "내년부터 관련 기술의 상용화와 실제 적용이 확대될 것으로 예상되는 만큼 빠르게 성과를 입증하는 기업이 시장에서 선도적인 입지를 확보할 것"이라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기