【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][챗ICT]AI 적당히 쓰라고?…토큰 비용에 빅테크 '골머리'

온카뱅크관리자

2026-11-08 11:07:25

<div id="layerTranslateNotice" style="display:none;"></div> 쓸수록 비용 증가…애플·MS도 한도 설정 토큰 관리 사업 부상…통신3사 선점 채비 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="bXbPqfd8C7">
 <figure class="figure_frm origin_fig" contents-hash="2930b3d67118f55cb4e743e3e46f1c4a1ea45dd985b439a7cee127742ef146a4" dmcf-pid="KZKQB4J6Su" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/08/BUSINESSWATCH/20261108110157055nbgx.gif" data-org-width="645" dmcf-mid="zvY3y5ztyB" dmcf-mtype="image" height="auto" src="https://t1.daumcdn.net/news/202611/08/BUSINESSWATCH/20261108110157055nbgx.gif" width="645">
 </figure>
 인공지능(AI) 모델을 활용하는 데 드는 '토큰 비용'이 기업의 새로운 골칫거리가 되고 있습니다. AI를 많이 쓸수록 비용도 늘어나는 만큼, 이제는 얼마나 잘 활용하느냐 못지않게 얼마나 효율적으로 쓰느냐가 중요해진 것이죠. 빅테크 기업은 무분별한 AI 활용에 제동을 걸었고, 더 효율적으로 활용할 수 있는 방식이 새 사업모델로 부상하고 있습니다.
 "이제는 적당히 쓰세요"
 "특정 이용자들의 AI 사용량이 많다는 이유로 크레딧(토큰) 한도가 줄었어요." 최근 만난 한 IT기업 관계자의 하소연입니다. AI 사용을 무작정 독려하던 기류와 사뭇 달라진 분위기입니다. 많은 기업들이 AI가 사용량에 따라 돈을 내는 종량제 방식으로 바뀐 후 조직별, 사업별로 AI 사용 한도를 설정했는데, 이제는 비용을 통제하고 빠듯하게 한도를 관리하기 시작했습니다.
 글로벌 빅테크도 비슷한 움직임을 보입니다. 블룸버그통신에 따르면 애플은 일부 엔지니어에게 적용하던 AI 모델 사용 예산을 하루 300달러에서 200달러로 낮췄으며, 일부 엔지니어링 조직에는 이를 100달러까지 추가로 줄이는 방안도 검토하고 있습니다. 엔지니어링 외 부서 상당수에는 이미 하루 100달러의 한도가 적용되고 있으며, 일부 조직은 25달러까지 낮추는 방안도 논의 중입니다.
 애플 직원들이 사용하는 AI 도구는 다양합니다. 앤트로픽의 클로드, 오픈AI의 챗GPT, 구글의 제미나이 등을 업무에 활용하고 있는데요. 애플은 업무에 따라 상대적으로 저렴한 모델을 쓰거나 기기에서 직접 구동하는 AI 모델을 활용하도록 권고하고 있다고 합니다.
 AI 사용 예산을 제한하려는 움직임은 다른 빅테크에서도 나타나고 있습니다. 테슬라는 직원들의 AI 사용 예산을 주당 200달러로 제한하고 있고, 우버는 개별 AI 코딩 도구에 월 1500달러의 한도를 설정했습니다. 메타 역시 토큰 예산을 도입하는 한편 자체 개발 AI 도구 사용을 장려하고 있습니다. 
 토큰값 내리는데 사용량은 증가
 기업들이 AI 사용량을 관리하기 시작한 것에는 구조적인 이유가 있습니다. AI 모델을 이용하는 데 드는 토큰당 가격은 계속 낮아지고 있지만, 정작 기업이 부담하는 전체 비용은 줄어들지 않고 있기 때문입니다. AI의 단위 비용은 낮아지는데 전체 사용량이 더 빠르게 늘어나는 현상으로, 이른바 '추론 역설(Inference Paradox)'입니다.
 <figure class="figure_frm origin_fig" contents-hash="1cf5b3d408d3efe0c09cff9c0a1339cea59ba26a11888825a52c7fa72d77ec1b" dmcf-pid="QFJAegrNhZ" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/08/BUSINESSWATCH/20261108110158629yban.jpg" data-org-width="645" dmcf-mid="qXU20BPKTq" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/08/BUSINESSWATCH/20261108110158629yban.jpg" width="658">
 </figure>
 AI가 수행하는 업무가 점점 복잡해지고 있다는 점이 가장 큰 원인입니다. 기존 챗봇은 이용자의 질문을 받아 답변을 생성하는 데 그쳤다면, AI 에이전트는 목표를 달성하기 위해 스스로 계획을 세울 뿐만 아니라 검색과 추론을 반복합니다. 외부 프로그램을 호출하거나 여러 단계의 작업을 수행하기도 하지요. 이 과정에서 AI 사용량이 감당하기 힘든 수준으로 늘었다고 합니다.
 시장조사업체 가트너는 AI 에이전트 기반 업무 한 건에 들어가는 추론 비용이 2028년까지 5배 이상 증가할 것으로 전망했습니다. 추론형 모델을 활용하는 에이전트의 경우 기본적인 챗봇보다 비용이 최소 5배 이상 높아질 수 있다는 분석도 나옵니다. 
 결국 기업 입장에서는 무조건 비싼 고성능 모델을 사용하는 것보다 업무의 성격에 맞춰 적절하게 AI모델을 선택하는 것이 중요해졌습니다. 문서를 요약하는 것처럼 비교적 간단한 작업에는 저렴한 경량 모델을 쓰고, 복잡한 분석이나 추론이 필요한 업무에만 고성능 모델을 투입하는 식이지요.
 이런 흐름에 맞춰 비용 최적화 기술이 새로운 AI 경쟁 요소로 떠오르고 있습니다. 반복적으로 수행하는 연산을 재사용하거나 불필요한 AI 호출을 줄이는 기술, 여러 AI 모델 가운데 적합한 모델을 자동으로 선택하는 모델 라우팅 등이 대표적입니다. AI 모델 중개 플랫폼 '오픈라우터'를 비롯해 아마존웹서비스(AWS)의 '아마존 베드록', 구글 클라우드의 '버텍스 AI', 마이크로스프트(MS)의 애저 파운드리 등이 이러한 서비스를 합니다.
 "토큰 관리 시장 잡아라"
 <figure class="figure_frm origin_fig" contents-hash="d72bafa770bcb6ac2a2070cb0adcd5d6046a3893591c238c580a61a3f3dde6b2" dmcf-pid="HaZuH3Kply" dmcf-ptype="figure">
 <img alt="박상원 KT AX사업부문장(전무)이 지난달 27일 서울 광화문웨스트에서 AX 사업전략 발표 행사를 열고 KT 토큰팩토리에 대해 발표하고 있다. /사진=비즈워치" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/08/BUSINESSWATCH/20261108110158897hsqm.jpg" data-org-width="645" dmcf-mid="BUPn8ejJCz" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/08/BUSINESSWATCH/20261108110158897hsqm.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 박상원 KT AX사업부문장(전무)이 지난달 27일 서울 광화문웨스트에서 AX 사업전략 발표 행사를 열고 KT 토큰팩토리에 대해 발표하고 있다. /사진=비즈워치
 </figcaption>
 </figure>
 국내 통신사들도 이 시장을 새로운 사업 기회로 보고 있습니다. KT는 인공지능 전환(AX) 사업 핵심 전략으로 '토큰팩토리'를 앞세웠습니다. 국내외 AI 모델을 한곳에 모아 기업이 서비스 가입부터 사용량 확인, 비용 관리, 결제까지 통합적으로 처리할 수 있도록 하는 플랫폼입니다. KT는 초기에는 73종의 AI 모델을 제공하고, 12월 말까지 500종 이상으로 확대할 예정입니다.
 SK텔레콤 또한 '토큰 게이트웨이' 사업을 준비하고 있습니다. 여러 AI 모델과 인프라 가운데 이용자에게 가장 적합한 조합을 찾아주는 일종의 AI 관제센터 역할을 합니다. SKT가 보유한 고객과 결제 체계, AI 플랫폼, 데이터센터 및 AI 팩토리 등을 결합해 기업과 개인의 AI 사용 패턴을 관리하고 수요에 맞는 모델과 인프라를 연결하는 식입니다.
 LG유플러스는 AI 모델 최적화 기업 '옵트에이아이'와 토큰 처리 효율을 높이는 최적화 기술 개발에 나섰습니다. AI 모델을 더 가볍고 빠르게 구동하는 기술을 확보해 그래픽처리장치(GPU)와 전력 사용량을 줄이겠다는 목표입니다. 특히 스마트폰처럼 메모리와 전력이 제한된 환경에서도 소형언어모델(SLM)을 효율적으로 실행하고 학습할 수 있는 기술을 연구하고 있습니다.
 더 많은 AI 활용을 독려하던 '토큰 맥싱(Token-Maxxing)을 넘어 이제는 AI 남용을 줄이고 더 효율적으로 절약해야 하는 시대가 왔습니다. 기업들의 고민이 깊어지는 가운데 토큰 사용량을 관리하고 최적의 모델을 연결해주는 기술과 플랫폼의 중요성도 더욱 커질 것으로 보입니다.
 편지수 (pjs@bizwatch.co.kr)
 ⓒ비즈니스워치의 소중한 저작물입니다. 무단전재와 재배포를 금합니다.
 </section> 
 </div> 
 Copyright © 비즈워치. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기