【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]노타, 고성능 GPU 없이 초거대 AI 구동…도입비용 20%↓

온카뱅크관리자

2026-11-10 09:17:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="q1ExgFb0Ae">
          <figure class="figure_frm origin_fig" contents-hash="f5d3f918de0647fe14e587be5be77361890b0dad570920c545205be02e714933" dmcf-pid="BtDMa3KpcR" dmcf-ptype="figure">
           <p class="link_figure"><img alt="키미 K3.1 프로 최적화 전후 GPU 비용 비교. 노타 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/10/fnnewsi/20261110091523704uqfs.jpg" data-org-width="800" dmcf-mid="zmZrTQoMkd" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/10/fnnewsi/20261110091523704uqfs.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            키미 K3.1 프로 최적화 전후 GPU 비용 비교. 노타 제공
           </figcaption>
          </figure>
          <div contents-hash="5a72ccfbd2ed26b9b358039c183756494b7b7fa0af400bb20fc025274821d53f" dmcf-pid="bFwRN09UNM" dmcf-ptype="general">
           <br>[파이낸셜뉴스] 인공지능(AI) 최적화 기술 기업 노타가 초거대 AI 모델의 주요 성능을 유지하면서 구동에 필요한 그래픽처리장치(GPU) 사양을 낮추는 데 성공했다. 고가의 최신 GPU 대신 기존 인프라를 활용할 수 있도록 해 AI 모델 도입에 따른 초기 투자비용을 최대 20% 줄일 수 있다는 설명이다. AI 모델의 대형화로 고성능 GPU 확보 부담이 커지는 가운데 기존 컴퓨팅 자원의 활용도를 높여 기업들의 AI 도입 문턱을 낮출 수 있을 것으로 예상된다. 
          </div>
          <p contents-hash="5a562f2ad471e34967429239add8b661f101a24b2837dcf3bc830c8b355ce205" dmcf-pid="K3rejp2ucx" dmcf-ptype="general">10일 업계에 따르면 노타는 중국 문샷AI의 초거대언어모델(LLM) '키미 K3.1 프로'를 최적화해 엔비디아 B300 GPU 8장이 필요했던 모델을 B200 GPU 8장에서도 실행할 수 있도록 했다. </p>
          <p contents-hash="8dcf93bf37b8029c0e9c0c6f75f25e07dc187f39ae51b66662aeec2628a69f49" dmcf-pid="90mdAUV7NQ" dmcf-ptype="general">키미 K3.1 프로는 총 2조8000억개의 매개변수를 갖춘 오픈웨이트 AI 모델이다. 모델 규모가 큰 만큼 구동에 필요한 GPU 메모리와 연산 자원을 확보하는 것이 중요하다. </p>
          <p contents-hash="9f235950a95fc3f4074ef2a52f16934ef087c29a0a5b81b6588fddbd84895ae6" dmcf-pid="2psJcufzNP" dmcf-ptype="general">노타는 모델 내부의 전문가 모듈을 선별적으로 제거하는 '프루닝' 기술을 적용해 전문가 모듈 수를 최대 37% 줄였다. 이를 통해 메모리 사용량을 낮추면서도 고난도 과학 추론 능력을 평가하는 'GPQA 다이아몬드'에서 원본 모델 점수의 99% 이상을 유지했다. </p>
          <p contents-hash="d57fb5f2237f517d118b349a8bc617468755de2be19027317e7190dd6e965c2d" dmcf-pid="Viuv1LDgN6" dmcf-ptype="general">경량화 과정에서 확보한 메모리는 대용량 정보 처리와 답변 생성 속도 개선에 활용했다. B200 GPU 8장 환경에서 전문가 모듈을 30% 줄인 모델은 최대 51만2000토큰, 37% 줄인 모델은 최대 100만토큰의 문맥을 처리할 수 있다. </p>
          <p contents-hash="0581ec2f737589990b3924a7625a7b1dc8fdbbb1fc2dc32a18e0db23db49970c" dmcf-pid="fn7Ttowao8" dmcf-ptype="general">작은 보조 모델이 답변을 미리 생성하고 본 모델이 이를 검증하는 '추측 디코딩' 기술을 지원해 답변 생성 속도를 높일 수 있도록 했다. </p>
          <p contents-hash="4c06bcb2f18686ff39c7fd1f3102bcf1c8b93f85ca0b92b449d3dd1fabb02270" dmcf-pid="4LzyFgrNk4" dmcf-ptype="general">비용 절감 효과도 기대된다. 노타의 자체 견적 비교에 따르면 동일한 AI 모델을 구동할 때 B300 대신 B200 GPU를 활용하면 초기 구매비용을 최대 약 20% 줄일 수 있다. 클라우드 환경에서도 B200 GPU 임대료가 최대 약 22% 낮은 것으로 나타났다. </p>
          <p contents-hash="5ffc94b0e3c3e077eb2b9f593792e06255d49510aa5f220402b8d3a46de63853" dmcf-pid="8oqW3amjcf" dmcf-ptype="general">노타는 앞서 키미 K3 모델을 경량화해 구동에 필요한 B300 GPU 수를 8장에서 최대 4장으로 줄인 바 있다. 이번에는 후속 모델의 GPU 요구 사양을 낮추는 방식으로 최적화 기술을 확대했다. </p>
          <p contents-hash="637d222a151583ada76ca33a7c57366125454e2857771cb2a29e87c4343fe37c" dmcf-pid="6gBY0NsAkV" dmcf-ptype="general">채명수 노타 대표는 "AI 산업의 경쟁력은 더 많은 고성능 GPU를 확보하는 것뿐 아니라 이미 보유한 컴퓨팅 자원에서 얼마나 높은 성능과 효율을 구현하느냐에 달려 있다"며 "기업들이 기존 AI 인프라를 더욱 효율적으로 활용하고 새로운 모델을 합리적인 비용으로 도입할 수 있도록 최적화 소프트웨어 사업을 강화하겠다"고 말했다.</p>
          <p contents-hash="50082787ef32778eb6803d3d757e5a2a4b859d862ab74e4b522498adebe84fb0" dmcf-pid="PabGpjOck2" dmcf-ptype="general">mkchang@fnnews.com 장민권 기자</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기