【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]LG유플러스, 토큰 최적화 사업 본격화… “코딩 AI 비용 90% 절감”

온카뱅크관리자

2026-11-15 11:37:26

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="pS6ZzSkLjx">
          <p contents-hash="916798bec34fa0c7e5afcf217b5ee69707de54e51ca67cb9985893d89013c5d6" dmcf-pid="UvP5qvEogQ" dmcf-ptype="general">LG유플러스는 인공지능(AI) 에이전트 운영 비용을 줄이는 ‘토큰 최적화’ 기술을 앞세워 내년 기업 간 거래(B2B) 시장에 진출한다고 15일 밝혔다.</p>
          <p contents-hash="ff6bc3923da408686dc27bd246cbe8c8965602a0c8115bac0861c1898a4d098f" dmcf-pid="uTQ1BTDgaP" dmcf-ptype="general">LG유플러스가 제시한 AI 에이전트 비용 절감 방안은 크게 세 갈래다.</p>
          <p contents-hash="8580ae1c863b7266f745fa2592f5e37f807f29cd4901f71d08998f845fb12bfc" dmcf-pid="7yxtbywaa6" dmcf-ptype="general">첫째는 자체 모델로 바꾸는 효과다. LG유플러스는 토큰 소모가 가장 많은 코딩 작업에 시중에서 흔히 쓰는 상용 모델 대신 자체 개발한 AI 모델을 투입했고, 그 결과 운영 비용을 약 90% 줄였다고 밝혔다. LG유플러스는 사내에서도 개발자들이 사용하는 AI 코딩 도구에 자체 AI 모델을 활용해 비용을 줄이고 있다고 덧붙였다.</p>
          <figure class="figure_frm origin_fig" contents-hash="b6699d94087b989ef117f2e2d375a92f2c2003108d95418ac1bfc47af6f22ec9" dmcf-pid="zWMFKWrNN8" dmcf-ptype="figure">
           <p class="link_figure"><img alt="이상엽 LG유플러스 CTO가 지난 12일 서울 서대문구에서 언론을 대상으로 설명회를 열고 토큰 최적화 사업의 추진 방향을 설명하고 있다. /LG유플러스 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/15/chosunbiz/20261115112918950jwvq.jpg" data-org-width="2400" dmcf-mid="0B3ryaQ9aM" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/15/chosunbiz/20261115112918950jwvq.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            이상엽 LG유플러스 CTO가 지난 12일 서울 서대문구에서 언론을 대상으로 설명회를 열고 토큰 최적화 사업의 추진 방향을 설명하고 있다. /LG유플러스 제공
           </figcaption>
          </figure>
          <p contents-hash="51e04f63d1ce242ebce242fb04b93b03964b2f523a02769a563fd113d1b8744a" dmcf-pid="qYR39YmjA4" dmcf-ptype="general">둘째는 작업을 나눠 맡기는 ‘모델 라우팅’이다. 모델 라우팅은 요청이 들어오면 난이도를 먼저 판단해, 복잡한 추론이 필요한 작업만 대형 모델에 보내고 단순 질의나 요약 같은 가벼운 작업은 작고 저렴한 모델에 맡기는 방식이다. LG유플러스는 내부 테스트에서 모델 라우팅을 통해 일반적인 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감하는 효과를 확인했다고 밝혔다. 또 ‘익시오’ 출시 초기 LG AI연구원의 온디바이스 모델과 구글 제미나이를 병행 활용했으나, 지속적인 실전 튜닝을 거쳐 자체 AI 모델과 엑사원 등의 비중을 정교하게 조합해 서비스 품질과 비용 효율을 동시에 끌어올렸다고 설명했다.</p>
          <p contents-hash="9756fd4d33b42d126cdaa419b2966acb8f5afddcd1eb519b59cee80c7f2bbf43" dmcf-pid="BGe02GsAgf" dmcf-ptype="general">LG유플러스는 AI 에이전트가 업무를 수행하는 과정에서 불필요한 검색이나 검증을 반복하지 않도록 하는 기술도 개발하고 있다. AI가 같은 작업을 여러 차례 수행하지 않고 효율적으로 결과를 도출하도록 해 토큰 사용량을 줄이는 방식이다.</p>
          <p contents-hash="a55fdc64a931f4aa8b6da03c298aa27109bfc363913c3b145071f0140c40edf8" dmcf-pid="bHdpVHOcNV" dmcf-ptype="general">셋째는 인프라 원가 자체를 낮추는 ‘칩 믹스(Chip-Mix)’ 전략이다. LG유플러스는 특정 고가 칩에 종속되지 않도록 엔비디아와 AMD의 그래픽처리장치(GPU)를 함께 쓰는 한편, 국산 AI 반도체 기업 퓨리오사AI와 2년 넘게 협력하며 신경망처리장치(NPU)를 검증하고 있다. 대규모 연산이 필요한 작업과 메모리 대역폭이 중요한 작업을 쪼개 각각 가장 가성비가 높은 반도체에 분산 처리함으로써 인프라 원가 자체를 낮추는 구조다.</p>
          <p contents-hash="67b675f9b250140e11027879b8364cdbe828c1d6da42df4d0a2e67b447cf9753" dmcf-pid="KXJUfXIka2" dmcf-ptype="general">LG유플러스는 비용 절감과 별개로 AI 모델을 가볍고 빠르게 만드는 기술 성과도 공개했다. LG유플러스는 우선 자체 온디바이스 AI 모델 크기를 기존 2.4~3GB(기가바이트)에서 약 3분의 1 수준인 800MB(메가바이트) 수준으로 줄이면서도, 비교 대상 클라우드 모델 대비 95% 이상의 성능을 확보했다고 밝혔다. 또 작은 모델이 답변을 빠르게 생성하고 큰 모델이 이를 검증하는 추측 디코딩(Speculative Decoding)을 고도화해 토큰 생성 속도를 2배 이상 높였다고 했다.</p>
          <p contents-hash="3439367bdddefbf45cab84bb8ba76ff55dccf29da08ecaa517ff0af165a71bed" dmcf-pid="9Ziu4ZCEo9" dmcf-ptype="general">이상엽 LG유플러스 최고기술책임자(CTO)는 “AI 시장의 패권은 누가 더 큰 모델을 만드느냐를 넘어, 고객이 원하는 비즈니스 결과를 얼마나 정교하고 경제적으로 완수하느냐로 이동했다”며 “AI 에이전트가 확산될수록 모델 단가가 아무리 저렴해도 불필요한 검색과 분석을 반복하면 전체 비용은 눈덩이처럼 불어나기 때문”이라고 말했다.</p>
          <p contents-hash="41489ae6b181561b2188c7f71ea0665eadffcace893e6ac1c011d2661f24befb" dmcf-pid="25n785hDaK" dmcf-ptype="general">이어 “LG유플러스의 토큰 최적화는 이론적 효율화를 넘어, 이미 수많은 실전 서비스에서 검증을 끝낸 즉시 전력감 기술”이라며 “글로벌 수준의 모델 경량화·추론 기술과 AI 업무 수행 궤적을 반영한 운영 레시피를 결합해, 내년부터 기업 고객들이 가장 합리적인 비용으로 최고의 AI 성과를 낼 수 있도록 시장을 주도해 나가겠다”고 했다.</p>
          <p contents-hash="4ea4eb1980297413fedc89feaef50c0d110f1d073e67085b50b0e9171c74353a" dmcf-pid="VBw6LB5TAb" dmcf-ptype="general">- Copyright ⓒ 조선비즈 &amp; Chosun.com -</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기