【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]상품 추천 AI, 반복 학습하면서 편향·오류 커진다

온카뱅크관리자

2026-11-08 15:17:26

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="Y5nzVVe4cm">
          <figure class="figure_frm origin_fig" contents-hash="421a6ff89c4e86f4b5d77db838773c161f87b051baa2a14916ea808cb6b91c02" dmcf-pid="GucfMMaeNr" dmcf-ptype="figure">
           <p class="link_figure"><img alt="반복 추천을 강화하는 대형언어모델 AI의 피드백 루프. /UNIST 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/08/chosunbiz/20261108150942751xbtd.jpg" data-org-width="1672" dmcf-mid="WB3mSS5TNs" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/08/chosunbiz/20261108150942751xbtd.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            반복 추천을 강화하는 대형언어모델 AI의 피드백 루프. /UNIST 제공
           </figcaption>
          </figure>
          <p contents-hash="ad92a471a1ed71c920769d0bde5b12b9d93f9049b3073642d3576af2677daba2" dmcf-pid="H7k4RRNdgw" dmcf-ptype="general">대규모 언어 모델(LLM) 기반 상품 추천 인공지능(AI)이 자신이 생성한 추천 결과를 다시 학습하는 과정에서 특정 상품에 대한 쏠림이 심해지거나 잘못된 추천을 반복할 수 있다는 연구 결과가 나왔다. AI가 추천 결과를 다시 학습에 활용하면서 초기의 편향과 오류가 사라지지 않고 누적될 수 있다는 분석이다.</p>
          <p contents-hash="98ee917034ebf39943479e93a605ddf178463816ba2631b83e70c0f614d7c69d" dmcf-pid="XzE8eejJcD" dmcf-ptype="general">8일 울산과학기술원(UNIST)에 따르면 이연창 인공지능대학원 교수팀은 LLM 기반 추천 시스템에서 편향과 오류가 발생하고 누적되는 과정을 추적하는 진단 도구 ‘에코트레이스(EchoTrace)’를 개발하고, 이를 활용해 추천 시스템 3종을 분석했다.</p>
          <p contents-hash="e796553965bf60aa7ee50d4dd5d07faf06dd598f969990adcdb76fa7c43697c5" dmcf-pid="ZqD6ddAicE" dmcf-ptype="general">LLM은 상품을 직접 추천하는 것뿐 아니라 이용자의 취향을 반영한 가상 프로필을 만들거나 추천 AI 모델에 부족한 학습 자료를 생성하는 데도 활용된다.</p>
          <p contents-hash="c5a256eec3ef08eab62d4c620bbf0164eba9cd89d63aa46e286fd67588ee929c" dmcf-pid="5BwPJJcnok" dmcf-ptype="general">연구팀은 이 같은 세 가지 방식에서 LLM이 생성한 정보와 최종 추천 결과를 분석하고, 추천 결과를 다시 학습에 반영했을 때 편향과 오류가 어떻게 나타나는지 살펴봤다.</p>
          <p contents-hash="bbb7f8cb7c78aca43c9c6d323da45bee4abe8ed3b250ee83adf66d647afcf8f4" dmcf-pid="1brQiikLAc" dmcf-ptype="general">분석 결과 LLM이 상품을 직접 추천하는 모델에서는 추천 대상에 없는 항목을 제시하는 오류가 발생했다. 영화 추천에서는 전체 추천의 4.07%, 도서 추천에서는 7.40%, 가게 추천에서는 13.14%가 이에 해당했다.</p>
          <p contents-hash="3884fe26f041a7cff9dfce6e9c6680bf19ca0bc264abd1b17da644cdd7db7286" dmcf-pid="tKmxnnEogA" dmcf-ptype="general">LLM이 사용자 프로필을 만드는 데도 오류가 확인됐다. 영화 이용 자료로 LLM이 추천한 사용자의 직업은 93.16%가 원래 정보와 일치하지 않았다. 또 기존 데이터의 직업 분류에 없는 ‘영화 평론가’라는 직업을 임의로 만들어내기도 했다.</p>
          <p contents-hash="1cd1522a1af3bc6e55293da68b33eb26904b63968ff4c44fe622a7f131956264" dmcf-pid="F9sMLLDgaj" dmcf-ptype="general">최종 추천 결과에서도 실제 이용 기록보다 인기 항목을 더 많이 추천하는 경향이 확인됐다. 추천 결과를 다시 학습시키는 과정을 5차례 반복한 뒤에도 초기의 편향과 오류는 사라지지 않았으며, 일부 시스템에서는 인기 항목으로의 쏠림이 더욱 심해졌다.</p>
          <p contents-hash="de5f729e780b816441db97e3cfd2b69907ac32600be3e79461d3fb476fddeca3" dmcf-pid="32ORoowaoN" dmcf-ptype="general">특히 LLM이 직접 영화를 추천하는 모델의 경우, 사용자 100명 중 86∼92명꼴로 다음 영화를 골라줄 때 자신이 앞서 추천했던 작품을 가장 중요하게 참고하는 것으로 나타났다.</p>
          <p contents-hash="9f2093861f8aa20b0f2236cc3b5bd9042903f30e4bedd2729e3e75e8417823e2" dmcf-pid="0VIeggrNca" dmcf-ptype="general">AI의 추천 결과가 사용자의 선택 기록으로 다시 학습되고, 그 기록을 근거로 다음 추천을 만드는 ‘피드백 루프’가 반복되면서 처음 생긴 편향과 오류가 이후 추천에도 영향을 주는 것이다.</p>
          <p contents-hash="c3ee7522e174a085e427ca278d14e34362dc637db4909993c85b1e1b5ed49ee8" dmcf-pid="pfCdaamjcg" dmcf-ptype="general">이연창 교수는 “LLM 기반 추천 시스템의 편향과 오류가 반복적인 추천 과정에서 어떻게 누적되고 증폭되는지를 LLM의 역할에 따라 체계적으로 진단할 기반을 마련했다”며 “향후 더욱 안전하고 신뢰할 수 있는 추천 시스템을 설계하고 평가하는 데 활용할 수 있을 것”이라고 말했다.</p>
          <p contents-hash="485c03d9a8a99575fac0c1947a029b30548af907bf27b6dbbf8d2cf0b52f78f8" dmcf-pid="UPvLccCEAo" dmcf-ptype="general">한편 이번 연구 결과는 데이터마이닝 분야 국제 학술 대회 ‘ACM CIKM(Conference on Information and Knowledge Management) 2026’에 채택됐다.</p>
          <p contents-hash="4156f5b6e7ba20d4c1d972e74d0e4782ca9db6ae5785c066ffc50287a61e54d0" dmcf-pid="uQTokkhDoL" dmcf-ptype="general">- Copyright ⓒ 조선비즈 &amp; Chosun.com -</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기