【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][분석] CUDA 병권 뒤집힌다···코어 1000개 시대, 왕권은 어디에

온카뱅크관리자

2026-10-16 17:27:25

<div id="layerTranslateNotice" style="display:none;"></div> 베라 CPU 88코어·루빈 GPU 연산 군단 확대 SRAM·HBM 병참망이 실제 계산능력 결정 CUDA·NVLink 군령에 TPU·NPU·PIM 도전 AI 실행권 통합···병권은 코어 밖으로 이동 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Ket8nyMVHk">
 <figure class="figure_frm origin_fig" contents-hash="6aa6cc30a661786a9268d30f17ac748d3604089d225a6ee589dcc87ed96c87b4" data-idxno="464239" data-type="photo" dmcf-pid="9dF6LWRfGc" dmcf-ptype="figure">
 <img alt="GPU와 메모리, 전원·통신 부품이 집적된 엔비디아 AI 가속기 모듈. 오른쪽 상단에는 젠슨 황 엔비디아 최고경영자(CEO)의 서명과 SK하이닉스를 응원하는 문구가 표시돼 있다. 엔비디아와 메모리 공급사의 협력 관계를 상징한다. /김성하 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172033720lciz.png" data-org-width="1280" dmcf-mid="uHYklbmjH2" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172033720lciz.png" width="658">
 <figcaption class="txt_caption default_figure">
 GPU와 메모리, 전원·통신 부품이 집적된 엔비디아 AI 가속기 모듈. 오른쪽 상단에는 젠슨 황 엔비디아 최고경영자(CEO)의 서명과 SK하이닉스를 응원하는 문구가 표시돼 있다. 엔비디아와 메모리 공급사의 협력 관계를 상징한다. /김성하 기자
 </figcaption>
 </figure>
 태종 이방원은 사병의 힘으로 권력의 정점에 올랐다. 왕권을 확립하는 과정에서는 사병을 혁파했다. 병력을 동원할 권한과 군령 체계를 바꾸고 중앙의 명령이 지방 행정까지 미치는 질서를 구축했다. 신진사대부가 새로운 국가 운영체제를 형성하고 향리가 지방의 실무를 담당하던 시대였다.
 인공지능(AI) 시대의 반도체 산업에서도 병권 문제가 등장했다. 엔비디아는 CPU와 GPU, 메모리, 네트워크를 하나의 계산 군단으로 편제하고 있다. 구글과 아마존은 독자적인 가속기와 소프트웨어 체계를 구축한다. 삼성전자와 SK하이닉스는 메모리 내부 연산(PIM)은 계산 장소까지 넓힌다. 연산 병력이 늘어나면서 새로운 질문이 생겼다. 누가 군단을 움직일 것인가.
 엔비디아의 베라 루빈(Vera Rubin) 아키텍처는 계산 병력의 확대를 보여준다. 베라 CPU에는 88개 코어가 들어간다. 루빈 GPU에는 대규모 병렬 연산을 수행하는 산술 연산기와 텐서코어가 집적된다. CPU가 시스템 작업을 조직하고 GPU가 계산을 수행하는 동안 SRAM과 HBM은 데이터를 공급한다. NVLink는 GPU 사이의 고속 통신을 맡는다. AI 팩토리의 경쟁 단위는 개별 반도체에서 랙과 데이터센터 전체로 확대되고 있다.
 16일 반도체 업계와 한국반도체산업협회에 따르면 지난 14일부터 서울 강남구 코엑스에서 열린 '반도체대전(SEDEX 2026)'에서는 인공지능(AI) 반도체의 연산 능력과 메모리 구조가 주요 기술 화두로 떠올랐다. 엔비디아의 차세대 베라 루빈(Vera Rubin) 아키텍처는 이러한 변화를 보여주는 대표적인 사례다.
 <div contents-hash="ace3d82ef582ecbae4dc494d97a1da619dbfbea5bef255e42577355ba00b98c0" dmcf-pid="8Ur5qa0H5g" dmcf-ptype="general">
 연산 코어도 군단이 커질수록 군령의 문제가 복잡해진다. GPU가 수천 개로 늘어나도 작업을 승인하고 자원을 배분하며 결과를 확정하는 규칙이 없다면 계산 능력을 하나의 시스템으로 활용하기 어렵다. AI 모델이 외부 도구를 호출해 송금하거나 서버 설정을 변경하는 경우에는 실행 권한까지 관리해야 한다. 연산 능력과 명령권을 분리하는 설계가 새로운 경쟁 영역으로 떠오른 배경이다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="c243b3ae092c2f8f93d1bb469c7022f73adc3328118e3fefd75d1a0e07303ba6" data-idxno="464241" data-type="photo" dmcf-pid="6um1BNpXZo" dmcf-ptype="figure">
 <img alt="엔비디아가 공개한 베라 루빈 GPU 시스템과 베라 컴퓨트, 베라 블루필드 스토리지 구성. CPU·GPU·스토리지를 기능별로 분리한 시스템 설계를 보여준다. /이상헌 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172035019avdb.jpg" data-org-width="1080" dmcf-mid="74gVdSPKY9" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172035019avdb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 엔비디아가 공개한 베라 루빈 GPU 시스템과 베라 컴퓨트, 베라 블루필드 스토리지 구성. CPU·GPU·스토리지를 기능별로 분리한 시스템 설계를 보여준다. /이상헌 기자
 </figcaption>
 </figure>
 베라 88코어가 총지휘하고 루빈 연산 군단이 움직인다
 CPU와 GPU는 같은 실리콘을 서로 다른 방식으로 사용한다. CPU는 복잡한 명령을 처리하기 위해 코어마다 명령어 해석과 실행 순서 조정, 분기 예측, 캐시 등 다양한 회로를 배치한다. GPU는 다수의 산술 연산기가 제어회로를 공유하면서 대규모 병렬 계산을 수행하도록 설계된다.
 즉 CPU 코어 하나와 CUDA 코어 하나는 구조부터 다르다. CPU 코어는 독립적인 프로그램 실행을 담당하는 처리 장치다. CUDA 코어는 GPU 내부에서 산술 연산을 수행하는 실행 유닛이다. 숫자만 놓고 비교할 수 없지만 GPU가 같은 작업을 여러 연산기에 나누어 처리한다는 사실은 분명하다.
 AI의 대규모 행렬 연산은 이러한 병렬 구조를 활용한다. 서로 독립적인 곱셈과 덧셈을 동시에 수행하고 텐서코어가 행렬 연산을 집중 처리한다. CPU가 복잡한 명령을 다루는 지휘부라면 GPU는 계산 병력이 대규모로 집결한 군단에 해당한다.
 다만 실제 군령은 CPU 한 곳에서만 내려오지 않는다. GPU 내부 스케줄러와 명령 처리 회로, 드라이버, 런타임, 분산 실행 소프트웨어가 각자의 계층에서 작업을 처리한다. 수많은 코어를 가동하려면 여러 지휘 계층이 연결돼야 한다.
 <div contents-hash="bb0daf54e7ccc2ddd8dd7195933e729f13f7fb3b740d13b2dcd172e4ec7cf076" dmcf-pid="Yr4jIzDgXe" dmcf-ptype="general">
 코어 수의 확대는 계산 능력을 키운다. 군단 전체의 전투력은 작업을 얼마나 병렬화할 수 있는지, 데이터를 제때 공급할 수 있는지, 실행 결과를 얼마나 빠르게 회수하는지에 따라 달라진다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="a88e54ef784a65bb50ba58724464c9a29c53f68e885ac7368724ad168f7e955d" data-idxno="464242" data-type="photo" dmcf-pid="Gm8ACqwatR" dmcf-ptype="figure">
 <img alt="SK하이닉스가 개발한 GDDR6-AiM 기반 AI 가속기 카드 AiMX. 여러 개의 메모리 연산 반도체를 결합해 데이터 이동을 줄이고 거대언어모델(LLM) 추론을 가속하도록 설계했다. /SK하이닉스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172036255dboe.jpg" data-org-width="1080" dmcf-mid="ztGxaHJ6tr" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172036255dboe.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 SK하이닉스가 개발한 GDDR6-AiM 기반 AI 가속기 카드 AiMX. 여러 개의 메모리 연산 반도체를 결합해 데이터 이동을 줄이고 거대언어모델(LLM) 추론을 가속하도록 설계했다. /SK하이닉스
 </figcaption>
 </figure>
 SRAM 정예병·HBM 보급망 병참이 코어의 발을 묶는다
 GPU의 계산 능력이 아무리 커도 필요한 숫자가 도착하지 않으면 연산기는 기다린다. 내부 레지스터는 연산 중인 데이터를 보관한다. SRAM으로 구성되는 캐시와 공유 메모리는 자주 사용하는 데이터를 가까운 곳에서 공급한다. HBM은 GPU 패키지에 연결된 대용량 고대역폭 메모리다. 시스템 DRAM과 저장장치는 더 큰 데이터 집합을 보관한다.
 연산기에 가까운 SRAM은 빠르게 움직이는 정예병에 해당한다. HBM은 대규모 군량을 공급하는 보급망이다. 시스템 메모리와 저장장치는 후방 병참기지 역할을 한다. 각 계층은 용량과 지연시간, 대역폭에서 서로 다른 특성을 갖는다.
 AI 추론에 사용하는 KV 캐시는 병참의 중요성을 더욱 키운다. 이전 토큰에서 계산한 정보를 저장하고 다음 토큰을 생성할 때 재사용하기 때문이다. 문맥이 길어지고 동시 처리 요청이 늘어나면 캐시의 저장 위치와 이동 비용이 성능을 좌우한다.
 메모리 내부에서 일부 연산을 수행하는 PIM은 계산 장소 자체를 확장한다. 데이터를 매번 GPU로 옮기는 대신 메모리 가까이에서 처리할 수 있다면 이동 시간과 전력 소비를 줄일 수 있다. 현지에 보관한 장부를 중앙으로 가져오지 않고 현장에서 계산하는 방식이다.
 GPU와 텐서코어가 대규모 계산을 담당하는 신진사대부라면 PIM은 지방 행정의 실무를 맡았던 향리에 해당한다. 신진사대부가 중앙의 새로운 정치 질서를 형성하고 향리가 지방에서 조세와 호적, 장부를 관리했듯 실리콘 제국에서도 중앙 연산 군단과 현지 계산 조직의 역할이 나뉜다. GPU는 대규모 행렬 연산을 수행하고 PIM은 데이터가 저장된 위치에서 일부 계산을 처리한다.
 <div contents-hash="6cfa6c23c64c94ba8f6018e8a8a19ea09607d6dbdc086464a853ab1aaed0ed02" dmcf-pid="Fet8nyMV14" dmcf-ptype="general">
 실리콘 내부에서도 PIM이 등장하면 새로운 군령 문제가 발생한다. 어떤 연산을 현지에서 수행할지, CPU와 GPU가 언제 결과를 읽을지, 여러 장치가 같은 데이터를 수정할 때 어느 상태를 확정할지 정해야 한다. TPU와 NPU까지 독자적인 연산 영역을 확보하면서 신진사대부와 향리의 계산 질서가 형성된다. 계산 영토가 넓어질수록 데이터 일관성과 작업 순서를 정하는 공통 명령체계의 중요성도 커진다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="a08b330e40a9bb7bf48bb0fdcf9415cf94c1de14d4a5aa3198c7d1fe78703443" data-idxno="464243" data-type="photo" dmcf-pid="3dF6LWRf1f" dmcf-ptype="figure">
 <img alt="구글이 공개한 7세대 텐서처리장치(TPU) 아이언우드(Ironwood) 실물. 구글은 자체 설계한 TPU와 XLA 컴파일러를 결합해 대규모 AI 모델의 학습·추론을 처리하는 독자적인 연산체계를 구축하고 있다. /구글" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172037535fgcb.jpg" data-org-width="1080" dmcf-mid="qgnHuLtWZw" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172037535fgcb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 구글이 공개한 7세대 텐서처리장치(TPU) 아이언우드(Ironwood) 실물. 구글은 자체 설계한 TPU와 XLA 컴파일러를 결합해 대규모 AI 모델의 학습·추론을 처리하는 독자적인 연산체계를 구축하고 있다. /구글
 </figcaption>
 </figure>
 젠슨 황의 CUDA가 장악한 군령 TPU·NPU 독립 군단의 도전기
 엔비디아는 GPU와 CPU, NVLink, 네트워크, CUDA 소프트웨어를 결합해 AI 팩토리의 실행체계를 구축했다. CUDA는 개발자가 엔비디아 GPU에서 연산을 수행하도록 지원하는 플랫폼이다. 관련 라이브러리와 컴파일러, 런타임이 GPU의 계산 능력을 실제 작업에 연결한다.
 GPU 수십 개를 고속 연결망으로 묶어도 작업을 배분하고 데이터를 교환하는 소프트웨어가 없다면 하나의 계산 군단으로 활용하기 어렵다. 엔비디아가 칩 성능과 함께 소프트웨어 생태계를 확장해 온 이유다.
 구글의 TPU와 AWS 트레이니움, 각종 NPU와 ASIC은 서로 다른 연산 구조를 구축하고 있다. 구글은 XLA를, AWS는 뉴런(Neuron)을 중심으로 자체 실행 소프트웨어를 발전시킨다. 각 진영은 연산기와 메모리, 컴파일러, 런타임을 연결해 독자적인 계산 체계를 운영한다.
 반도체의 종류가 늘어날수록 같은 AI 작업을 서로 다른 장치에 배분하는 문제가 중요해진다. CUDA와 AMD ROCm, TPU와 NPU의 실행 경로는 서로 다르다. 각 장치가 지원하는 연산과 수치 정밀도, 메모리 용량, 실행 비용도 다르다. 구글의 XLA와 AWS의 뉴런(Neuron), 엔비디아 CUDA는 저마다의 반도체를 움직이는 소프트웨어 체계를 구축하고 있다.
 <div contents-hash="53fb48827ccec0c7d63ca6e46673a8af4d910af6d6425613fe2df51e1b2131d5" dmcf-pid="zg7eA5Lx5B" dmcf-ptype="general">
 결국 AI 반도체 패권은 병권 확보를 위한 프로토콜 전쟁으로 향한다. GPU와 TPU, NPU를 누가 더 많이 확보했는가에 이어 서로 다른 연산 군단에 작업을 배분하고 실행 결과를 확정하는 규칙을 누가 장악하는가가 경쟁의 중심에 놓인다. 칩 제조사가 구축한 실행체계와 이기종 반도체를 공통 규칙으로 편제하려는 상위 프로토콜이 병권을 놓고 맞붙는 구조다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="18825376aa01b66aa194af36f7774b02743dc409255ffbae0b32097b3edacc8d" data-idxno="464244" data-type="photo" dmcf-pid="qazdc1oMHq" dmcf-ptype="figure">
 <img alt="삼성전자가 공개한 HBM-PIM 아쿠아볼트-XL(Aquabolt-XL)의 반도체 내부 구조와 적층 설계, GPU 통합 구성. 기존 HBM2 설계를 수정해 메모리 내부에 연산 유닛을 배치하고 GPU와 FPGA를 이용한 시스템 검증을 진행했다. /삼성전자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172038793sibq.jpg" data-org-width="1080" dmcf-mid="BaObxIfzXD" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172038793sibq.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 삼성전자가 공개한 HBM-PIM 아쿠아볼트-XL(Aquabolt-XL)의 반도체 내부 구조와 적층 설계, GPU 통합 구성. 기존 HBM2 설계를 수정해 메모리 내부에 연산 유닛을 배치하고 GPU와 FPGA를 이용한 시스템 검증을 진행했다. /삼성전자
 </figcaption>
 </figure>
 코어 늘어도 군령은 하나로 작동 연산 병력과 실행 명령권 분리
 조선의 사병혁파에는 군령 체계의 재편을 추진한 성리학자 권근이 있었다. 권근은 1400년 사헌부 대사헌으로 재직하며 절제사 폐지와 군병의 중앙 군영 편입을 주장했다. 이방원이 사병을 혁파하면서 병력 동원권은 중앙의 제도로 편입됐다. 군사를 보유한 세력과 군령을 행사하는 주체가 재편된 것이다.
 AI 반도체 산업에서도 병권을 둘러싼 프로토콜 전쟁이 벌어지고 있다. 엔비디아의 CUDA와 구글의 XLA, AWS의 뉴런은 각자의 연산 군단을 움직인다. GPU·TPU·NPU·PIM을 하나의 계산체계로 편제하려면 연산을 공통 중간표현(IR)으로 기술하고 장치별 명령으로 변환하는 백엔드가 필요하다. KV 캐시의 위치와 수명, 메모리 이동 비용까지 계산해 실행 장치를 배정해야 한다.
 유현규 KAIST 교수는 이러한 이종 연산체계에서 프런트엔드보다 백엔드 구현이 어렵다는 점을 짚었다. 하드웨어 간 협력에도 난제가 있으며 관련 기술이 국가 연구개발 과제로 추진되고 있다는 설명이다. 실제 GPU와 PIM은 지원 명령어와 메모리 구조가 다르다. 연산을 분배해도 데이터 전송과 동기화 비용이 커지면 성능이 떨어진다. 공통 군령을 만드는 기술과 각 군단을 실제로 움직이는 기술 사이에 백엔드라는 전장이 놓여 있다.
 명령권의 범위는 AI가 외부 시스템을 움직이면서 더 넓어진다. 모델이 송금을 지시해도 금융기관의 인증과 승인 없이는 자금이 이동하지 않는다. 기능별 권한 토큰(Capability Token)은 허용 작업과 대상 자원, 유효기간을 제한한다. 임대기간(Lease)과 펜싱 토큰(Fencing Token)은 만료된 작업자가 최신 상태를 덮어쓰지 못하도록 막는다. GPU 전원을 차단해도 이미 완료된 송금은 취소되지 않는 만큼 실행 전 승인과 집행 후 결과 대조까지 필요하다.
 <div contents-hash="1f13b63d8bab89707466a567dd85fd9b3501e617747f3ca4b48607dd518cce25" dmcf-pid="Vg7eA5LxZ0" dmcf-ptype="general">
 GPU와 TPU, NPU, PIM이 각자의 계산 영토를 넓힐수록 연산을 배치하는 백엔드와 실제 명령을 승인하는 실행체계의 중요성은 커진다. 코어가 1000개든 100만개든 왕권은 병력의 숫자로 완성되지 않는다. 어느 장치가 계산하고 누가 명령을 집행하며 어떤 결과를 확정할지 결정하는 규칙이 AI 반도체 패권의 다음 전장이 된다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="05b4f766ca958df954cfebc38445470696f2ed20fdbf34107b5394c8b489d903" data-idxno="464245" data-type="photo" dmcf-pid="fazdc1oMG3" dmcf-ptype="figure">
 <img alt="지난 12~15일 미국 캘리포니아주 새너제이에서 열린 'OCP 글로벌 서밋 2026' 현장. 엔비디아를 비롯한 글로벌 반도체·서버 기업들이 차세대 AI 데이터센터의 랙 설계와 전력·냉각 기술을 선보였다. /OCP" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172040068jodg.jpg" data-org-width="1080" dmcf-mid="bNiIH6vmHE" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/16/552814-8XPEppr/20261016172040068jodg.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 지난 12~15일 미국 캘리포니아주 새너제이에서 열린 'OCP 글로벌 서밋 2026' 현장. 엔비디아를 비롯한 글로벌 반도체·서버 기업들이 차세대 AI 데이터센터의 랙 설계와 전력·냉각 기술을 선보였다. /OCP
 </figcaption>
 </figure>
 ☞ 젠슨 황의 베라 루빈 랙 개방 = 엔비디아는 12일 미국 새너제이에서 열린 오픈컴퓨트프로젝트(OCP) 글로벌 서밋 2026에서 차세대 AI 시스템 베라 루빈의 랙과 컴퓨트 트레이 핵심 설계를 공개했다. MGX 1.2 규격에는 최대 250kW급 랙, 5000A 전력 공급 장치, 액체냉각 연결 구조, 모듈형 서버 조립 방식이 포함됐다. 외부 제조사들이 엔비디아의 공통 설계를 활용해 AI 서버를 생산하고 대규모 데이터센터를 구축할 수 있도록 한 조치다.
 이번 개방의 의미는 AI 인프라의 제조 표준을 엔비디아 중심으로 확장한다는 데 있다. 서버 제조사는 공통 규격으로 장비를 생산하고 전력·냉각 업체는 동일한 설계에 맞춰 설비를 공급할 수 있다. 엔비디아는 AI 에이전트의 도구 호출과 작업 조율, 격리 실행을 지원하는 베라 CPU 전용 랙 설계도 공개했다. GPU 연산부터 CPU 실행 환경, 전력·냉각까지 하나의 산업 표준으로 편제하는 전략이다. 하드웨어 설계 개방과 함께 CUDA 중심의 소프트웨어 생태계 영향력을 확대할 수 있다는 점에서 주목된다.
 여성경제신문 이상헌 기자 liberty@seoulmedia.co.kr
 *여성경제신문 기사는 기자 또는 외부 필자가 작성 후 AI를 이용해 교정·교열하고 문장을 다듬었음을 밝힙니다. 기사에 포함된 이미지 중 AI로 생성한 이미지는 사진 캡션에 밝혀두었습니다.
 </section> 
 </div>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기