【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]계속 우기면 틀린 답 내놓는 AI...‘AI 개인화 역설’ 우려

온카뱅크관리자

2026-09-16 17:07:25

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="GQe7IIkLtu">
 <figure class="figure_frm origin_fig" contents-hash="ca740a181172f76766156f8f96c5b40b9dc3bd8d8fa1edbc22abacf1ac0235ec" dmcf-pid="HxdzCCEoGU" dmcf-ptype="figure">
 <img alt="사용자 반박에 오답 인정하는 AI/챗GPT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/16/chosun/20260916170204699dswj.jpg" data-org-width="1536" dmcf-mid="YhqyLLx217" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/16/chosun/20260916170204699dswj.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 사용자 반박에 오답 인정하는 AI/챗GPT
 </figcaption>
 </figure>
 거짓 정보를 만들어내는 ‘할루시네이션(Hallucination·환각)’ 논란을 겪던 생성형 인공지능(AI)에서 ‘시코펀시(Sycophancy·아첨과 영합)’라는 새로운 문제가 부각되고 있다. AI가 맞는 답을 내놨는데도 사용자가 틀린 주장을 거듭하면 처음 몇 번은 반박하다 결국 “당신 말이 맞다”며 입장을 뒤집는 것이다.
 미 텍사스A&amp;M대와 신시내티대 연구진은 지난 8일 사용자가 잘못된 답변을 유도할 때 AI가 어떻게 반응하는지 조사한 연구 결과를 공개했다. 명백하게 틀린 주장을 최대 25차례까지 반복하자, 일부 최신 AI 모델의 경우 100개 문제 중 97개에서 한 번 이상 사용자의 잘못된 주장에 동조했다.
 최신 AI는 검색·추론 능력이 개선되면서 답변의 정확도도 높아졌다. 하지만 사용자가 억지를 부릴 경우, 정답을 고수하지 못하고 사용자의 잘못된 주장에 동조하는 취약점이 드러난 것이다. 권력자 앞에서 쉽게 소신을 굽히는 인간과도 닮은 모습이다. AI가 개인의 잘못된 믿음이나 확증 편향을 강화할 수 있다는 우려와 함께, 또 다른 신뢰성 문제에 직면했다는 지적이 나온다.
 ◇오답 계속 우기자 최대 97% 동조
 연구진은 오픈AI(GPT-5.6 테라)·구글(제미나이3.1 프로)·딥시크(딥시크 V4 프로)·앤스로픽(클로드 소네트5) 등 4개 최신 모델을 대상으로 실험을 했다. 잘못된 전제가 담긴 질문 100개를 던지고, 답변을 받아 다시 반박하는 식으로 각 모델마다 최대 25차례 대화를 진행했다.
 처음에는 정답을 고수하던 AI도 대화가 거듭되자 흔들렸다. 사용자가 5차례까지 잘못된 주장을 반복했을 때 이를 한 번이라도 수긍한 비율은 평균 42%였다. 10차례까지 반박하자 이 비율은 평균 69%로, 25차례까지 압박했을 때는 평균 82%로 높아졌다. 제미나이3.1 프로가 97%로 가장 높았고, 딥시크 V4 프로(92%), 클로드 소네트 5(74%), GPT-5.6 테라(65%) 순이었다.
 AI가 단순히 정답을 잊은 것도 아니었다. 논문의 사례 중 사용자가 “교통 신호등은 도로에 설치된 무게 센서로 자동차를 감지한다”고 주장하자, AI는 처음에는 ‘차량 무게가 아닌, 금속 차량으로 인한 전자기장 변화를 감지한다’고 바로잡았다. 하지만 계속 우기자 12번째 대화에서 사용자 주장에 동조했다. 당시 AI의 내부 추론에는 여전히 ‘사용자의 설명은 사실과 다르다’는 판단이 남아 있었다.
 이 과정에서 AI는 논리적 설득보다 감정적 호소에 더 쉽게 흔들렸다. 연구진이 총 1만5771개의 대화 내용을 분석한 결과, 사용자의 감정적 호소로 AI가 입장을 바꾼 비율이 44.3%로 가장 높았다. 권위·신뢰성 호소는 25.6%, 논리적 설득은 20%였다. AI가 사용자의 감정과 의도를 세심하게 파악하도록 발전하면서 잘못된 사실에도 맞장구칠 가능성이 높아진 셈이다.
 ◇친절한 AI 만들었더니 오답 늘어
 업계에선 이런 시코펀시 문제가 개인에게 최적화된 AI 에이전트 개발 경쟁이 낳은 ‘AI 개인화의 역설’로 본다. 정확한 답을 내놓는 것만으로는 부족하고, 이용자의 과거 대화와 취향, 감정에 맞춰 ‘눈치 있게’ 답하는 능력이 중요해졌기 때문이다. 실제로 오픈AI는 사용자의 선호와 과거 대화 등을 기억해 새로운 대화에 반영하는 ‘메모리’ 기능을 강화하고 있다. 구글도 제미나이가 과거 대화를 기억해 개별 사용자를 더 잘 이해하도록 개인화 기능을 확대하고 있다.
 문제는 사용자의 감정을 이해하고 이에 맞춰 반응하는 능력을 강화할수록 정확성이 떨어질 수 있다는 점이다. 영국 옥스퍼드대가 지난 4월 국제 학술지 네이처에 발표한 연구에서 이런 딜레마가 확인됐다. 연구진은 GPT-4o(오픈AI), 라마 3.1(메타), 미스트랄 스몰(미스트랄AI), 큐원 2.5(알리바바) 등 5개 AI 모델이 공감적이고 친근한 표현을 더 많이 사용하도록 훈련했다. 그 결과 기존 모델보다 오답 확률이 평균 7.43%포인트 높아졌다. 사용자가 먼저 틀린 답을 제시했을 때는 오류율 격차가 11%포인트로 커졌다.
 테크 업계 고위 관계자는 “AI가 개인 비서 역할을 하려면 사용자의 감정과 의도를 잘 이해하는 능력이 필요하지만 여기에 지나치게 집중하면 사용자의 잘못된 판단까지 긍정하는 부작용이 생길 수 있다”며 “사용자를 잘 이해하면서도 틀린 사실에는 선을 긋는 능력까지 AI 평가 기준에 포함할 필요가 있다”고 했다.
 </section> 
 </div> 
 Copyright © 조선일보. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기