【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]"클라우드 토큰 병목 깬다"…AMD·클레비, NPU·GPU 결합 로컬 AI 공략

온카뱅크관리자

2026-11-04 14:27:26

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">[인더스트리 AI] 라이젠 AI로 첫 응답 10% 단축…클레비, 온프레미스 비정형 문서 엔진 가동</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="Ve20nZaeSz">
          <figure class="figure_frm origin_fig" contents-hash="8f1206315ab82cec6aafe7c6ead3dc7d775c3cd9dcdb89bb91b24c4a4fb1c0ca" dmcf-pid="fdVpL5NdW7" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/04/552796-pzfp7fF/20261104142331775vsmt.jpg" data-org-width="640" dmcf-mid="2jEiWxXSyq" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/04/552796-pzfp7fF/20261104142331775vsmt.jpg" width="658"></p>
          </figure>
          <p contents-hash="40578438b0857a586f63af6369a58dc12c26565fae53254cefd5623440a1fa13" dmcf-pid="4JfUo1jJTu" dmcf-ptype="general">[디지털데일리 김문기 기자] AMD가 중앙 클라우드의 토큰 비용과 전력 한계를 극복하기 위해 온디바이스 및 엣지 인공지능(AI) 플랫폼을 전면에 내세운 가운데 국내 AI 스타트업 클레비(Clevy)가 AMD 프로세서를 기반으로 비정형 문서를 실시간 처리하는 온프레미스 AI 어플라이언스를 구축했다고 밝혔다.</p>
          <p contents-hash="56542a6a80cb88de600fe5ed423d8093263685e1ff601e48eee3c9d0e63c3ebd" dmcf-pid="8i4ugtAilU" dmcf-ptype="general">알렉세이 나볼로킨(Alexey Navolokin) AMD APAC 커머셜 영업 담당 시니어 디렉터는 4일 서울 강남구 삼성동 웨스틴 서울 파르나스 호텔에서 열린 '어드밴싱 AI 월드투어 및 AI 데브데이 서울 2026'에서 '파워링 AI 에브리웨어: 클라이언트 및 엣지'를 주제로 온디바이스 AI 컴퓨팅 로드맵을 발표했다. 이날 발표에는 이환호 클레비 대표가 함께 무대에 올라 AMD 라이젠 AI 맥스(Ryzen AI Max) 기반의 엔터프라이즈 데이터 처리 엔진 도입 성과를 공개했다.</p>
          <p contents-hash="0d4a2fabc5ace19f6c2e2d35f439b6c1887bd4707ee122514dedc7bc19b94113" dmcf-pid="6n87aFcnCp" dmcf-ptype="general">나볼로킨 디렉터는 글로벌 기업들의 AI 도입 가속화로 인해 데이터센터 전력 수급과 토큰 비용이 심각한 병목으로 부상했다고 진단했다. 골드만삭스(Goldman Sachs) 분석을 인용해 오는 2030년까지 월간 글로벌 토큰 소비량이 현재보다 24배 폭증한 120조(Quadrillion) 개에 달할 것으로 전망했다. 우버(Uber)가 4개월 만에 연간 AI 예산을 소진하거나 마이크로소프트(MS)가 엔지니어의 토큰 사용을 제한하는 등 비용 문제가 가시화되고 있어 중앙 집중형 클라우드 의존도를 낮추고 사용자 단말에서 직접 모델을 구동하는 하이브리드 AI 전환이 불가피하다는 설명이다.</p>
          <p contents-hash="75dc96209f77afc92032318e7b9dc9886d81050ed115a3b2ec7f178148ae75c7" dmcf-pid="PL6zN3kLl0" dmcf-ptype="general">AMD는 단일 단말 내에서 초대형 모델을 독립 실행할 수 있는 차세대 하드웨어 라인업을 단계별로 제시했다. 모바일 및 고성능 모바일 워크스테이션 환경을 겨냥한 라이젠 AI 맥스 300 및 400 시리즈는 단일 칩셋으로 90억(9B) 개부터 240억(24B) 개 매개변수 규모의 중소형 모델을 로컬 환경에서 직접 구동한다. 전문 작업용 시스템인 라이젠 프로 스레드리퍼(Threadripper)와 데스크톱 워크스테이션 라인업은 최대 2000억(200B) 개 파라미터 수준의 대형 언어모델까지 수용한다.</p>
          <p contents-hash="5aa0d4fc2e937c55fa66320721e0071144cabee59650471e9526026d56ae5834" dmcf-pid="QoPqj0Eoy3" dmcf-ptype="general">아울러 최대 192기가바이트(GB) 대용량 통합 메모리를 갖춘 차세대 플랫폼 '고르곤 헤일로(Gorgon Halo)'를 통해 초소형 데스크톱 시스템에서도 외부 서버 연결 없이 최대 3000억(300B) 개 파라미터에 달하는 초거대 모델을 독립 처리하도록 지원한다.</p>
          <p contents-hash="61777514167e5149902930aa1bf8ccb7f90e7baecc72dcd63d98829c2ad065a6" dmcf-pid="xgQBApDghF" dmcf-ptype="general">나볼로킨 디렉터는 "라이젠 AI 프로 맥스 환경에서는 최신 소형 모델인 퀜(Qwen) 3.8을 초당 최대 42토큰 속도로 독립 처리할 수 있다"라며 "단말 기기 내부에서 네트워크 지연과 데이터 유출 우려 없이 로컬 AI를 가동하는 환경이 구현됐다"라고 강조했다.</p>
          <p contents-hash="ef30040bf0417a1d23826bce4624492de59065660aac23f865c1e3785b8a0132" dmcf-pid="ywL6O9lwCt" dmcf-ptype="general">이어 연단에 오른 이환호 클레비 대표는 AMD 라이젠 AI 맥스+ 395 프로세서를 탑재한 온프레미스 문서 전처리 엔진 '유니폼(Unipom)'을 발표했다. 클레비는 공공·금융 등 망분리 보안 환경에서 클라우드 연결 없이 사내 비정형 문서를 파싱하는 솔루션을 제공하는 기업이다.</p>
          <p contents-hash="5520a819ca204848d669baa997f9f6e85243f69d3aca9b642a9405f1515ee8cf" dmcf-pid="WroPI2SrW1" dmcf-ptype="general">이 대표는 "AI 에이전트가 업무를 수행하려면 사람이 보는 한글(HWP), 복잡한 표, 도면 등 비정형 문서를 정밀하게 읽어내야 하지만 에이전트 자체는 문서의 공간적 레이아웃과 서식을 이해하지 못해 심각한 데이터 유실이 발생한다"라며 "클레비는 100억 개(10B) 파라미터 규모의 광학문자인식(OCR) 거대언어모델(LLM) 엔진 '코바(KOBA)'를 구축해 문서를 AI가 가장 잘 인식하는 구조화 데이터인 HTML 및 마크다운(Markdown)으로 즉각 변환하는 유니폼 엔진을 개발했다"라고 설명했다.</p>
          <p contents-hash="196a4e1a8e0451a9f6b7820f2de42fa2abc783e2b0eff42693e5853da3449155" dmcf-pid="YmgQCVvmC5" dmcf-ptype="general">폐쇄망 환경에서 수랭 설비나 대규모 전력을 갖춘 서버실을 구축하기 어려운 문제를 해소하기 위해 데스크톱 형태의 미니 PC 규격인 AMD 라이젠 AI 맥스+ 395를 하드웨어 플랫폼으로 채택했다. 해당 프로세서는 신경망처리장치(NPU)와 내장 GPU, 최대 128~192GB 용량의 통합 메모리를 탑재해 20GB 용량에 달하는 코바 모델 전체를 성능 하락을 유발하는 양자화 없이 전정밀도로 상시 적재할 수 있다.</p>
          <p contents-hash="02ab0a827bf68cec9a355c644d47be330cd165df634f11110a9ff4a0eb327d2a" dmcf-pid="GsaxhfTsTZ" dmcf-ptype="general">특히 NPU와 GPU를 동시에 교차 실행하는 파이프라인 아키텍처를 구축했다. NPU가 문서 페이지의 이미지 인코딩과 임베딩, 시맨틱 검색을 먼저 수행하는 동안 GPU는 전달받은 데이터를 바탕으로 LLM 기반 텍스트 생성을 병렬 진행한다. 컨베이어 벨트 방식의 하이브리드 연산을 통해 문서 처리 속도를 대폭 끌어올리고 첫 출력 지연 시간(TTFT)을 약 10.0% 단축했다. 이를 통해 관공서 한글 표 서식의 세부 수치 추출뿐 아니라 오토캐드(AutoCAD) 도면(DWG) 렌더링 데이터까지 손실 없이 AI 에이전트가 활용 가능한 코드로 변환해 제공한다.</p>
          <p contents-hash="c98db0947a16304118705545100b8b61401146023c90c8b332f5cba2c954295d" dmcf-pid="HONMl4yOTX" dmcf-ptype="general">이 대표는 "AMD 라이젠 AI 맥스의 통합 NPU·GPU 구조 덕분에 복잡한 클린룸이나 냉각 장비 없이 일반 사무실 책상 위에서 완벽히 격리된 온프레미스 AI 어플라이언스를 가동할 수 있게 됐다"라며 "사내 핵심 보안 문서를 외부 반출 없이 AI 에이전트와 완벽히 결합하는 고유 시스템을 구축했다"라고 말했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기