【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]“내 AI를 돌려줘”… 챗봇 업데이트에 인간은 ‘이별’을 느낀다

온카뱅크관리자

2026-09-09 17:17:25

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="HPQVyXDglB">
 <figure class="figure_frm origin_fig" contents-hash="ee15b613883f0988ba9159b41c1ce40e5aad6dd253b1388caf430ca26ab6af90" data-idxno="256048" data-type="photo" dmcf-pid="XQxfWZwalq" dmcf-ptype="figure">
 <img alt="AI는 이제 질문에 답하거나 업무를 보조하는 도구에 머물지 않는다. 많은 사람들은 AI와 대화를 나누고 나름의 정서적 관계를 형성하고 있다. AI 역시 이용자에 맞춰 말투, 답변, 반응을 변화시켜 '상호작용'하고 있다.  때문에 전문가들은 익숙했던 AI의 성격과 대화 방식이 갑자기 사라진다면, 이용자는 그것을 단순한 기능 변화가 아닌 관계의 단절로 받아들일 수도 있다고 지적한다. / 생성형 AI로 제작한 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171456418xhdi.png" data-org-width="800" dmcf-mid="2QPblWAihM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171456418xhdi.png" width="658">
 <figcaption class="txt_caption default_figure">
 AI는 이제 질문에 답하거나 업무를 보조하는 도구에 머물지 않는다. 많은 사람들은 AI와 대화를 나누고 나름의 정서적 관계를 형성하고 있다. AI 역시 이용자에 맞춰 말투, 답변, 반응을 변화시켜 '상호작용'하고 있다.  때문에 전문가들은 익숙했던 AI의 성격과 대화 방식이 갑자기 사라진다면, 이용자는 그것을 단순한 기능 변화가 아닌 관계의 단절로 받아들일 수도 있다고 지적한다. / 생성형 AI로 제작한 이미지
 </figcaption>
 </figure>
 "One runs the risk of weeping a little, if one lets oneself be tamed."
 (누군가에게 길들여진다는 것,  특별한 관계를 맺는다면 조금 울게 될 위험도 감수해야 해.)
 생텍쥐페리, '어린 왕자(Le Petit Prince, 1943)' 中
 시사위크=박설민 기자  인간은 사회적 동물이다. 때문에 모든 인연과 관계를 맺고 교감하는 것은 삶의 필수적 요소다. 설사 그 관계가 부정적이라 할지라도 그것은 삶의 일부를 형성하는 중요한 경험이다. 따라서 우리는 가정과 사회, 문화생활에 이르기까지 모든 부분에서 조금 더 긍정적 관계를 형성하기 위해 노력한다.
 현대 사회, 이 관계 형성의 경로도 바뀌고 있다. '인공지능(AI)'이 우리 생활에 깊숙이 자리 잡으면서다. AI는 이제 질문에 답하거나 업무를 보조하는 도구에 머물지 않는다. 많은 사람들은 AI와 대화를 나누고 나름의 정서적 관계를 형성하고 있다. AI 역시 이용자에 맞춰 말투, 답변, 반응을 변화시켜 '상호작용'하고 있다.
 <div contents-hash="e4c5236093b1177203a15048d3cc1352f287b3a39a8f7024cfc5974931da18f4" dmcf-pid="37z3DOJ6h0" dmcf-ptype="general">
 문제는 이 관계가 인간과 달리 기업의 업데이트 한 번으로 하루아침에 달라질 수 있다는 점이다. 전문가들은 익숙했던 AI의 성격과 대화 방식이 갑자기 사라진다면, 이용자는 그것을 단순한 기능 변화가 아닌 관계의 단절로 받아들일 수도 있다고 지적한다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="7d5c94c1dbe9da6da5528b6240c9d07aeba75cc145687cb14f4f9fce3a8ee773" data-idxno="256049" data-type="photo" dmcf-pid="0zq0wIiPW3" dmcf-ptype="figure">
 <img alt="지난 3일 미국 하버드 대학교 경영대학원 '하버드 비즈니스스쿨(HBS)' 연구팀에 따르면 AI챗봇의 갑작스러운 업데이트는 부정적인 감정, 상실에 대한 인식, 회복 욕구를 증가시키는 것으로 나타났다. / 생성형 AI로 제작한 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171457834wyql.png" data-org-width="800" dmcf-mid="yTGjbf5Ty2" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171457834wyql.png" width="658">
 <figcaption class="txt_caption default_figure">
 지난 3일 미국 하버드 대학교 경영대학원 '하버드 비즈니스스쿨(HBS)' 연구팀에 따르면 AI챗봇의 갑작스러운 업데이트는 부정적인 감정, 상실에 대한 인식, 회복 욕구를 증가시키는 것으로 나타났다. / 생성형 AI로 제작한 이미지
 </figcaption>
 </figure>
 ◇ AI의 갑작스런 업데이트, '관계 단절' 스트레스 유발한다
 실제로 사용하던 AI와의 관계 단절이 인간에게 상당한 정서적 스트레스가 될 수 있다는 연구가 최근 발표됐다. 지난 3일 미국 하버드 대학교 경영대학원 '하버드 비즈니스스쿨(HBS)' 연구팀이 국제학술지 '네이처(Nature)'에 발표한 '인공지능 동반자의 죽음을 애도하며(Mourning the loss of AI companions)'다.
 연구팀은 미국 초대형 소셜 커뮤니티 '레딧(Reddit)'의 게시물 5만4,861건의 분석과 참가자 1,452명 대상 7개 설문 실험을 진행했다. 실험에 이용된 AI모델은 AI 동반자 서비스 '레플리카(Replika)'와 '오픈AI'의 챗봇 '챗GPT'다.
 연구팀은 레플리카 모델 업데이트 과정에서 발생한 친밀·연애 역할극 기능 삭제, 'GPT-5' 출시라는 두 차례 실제 AI 업데이트 사례 데이터를 수집, 현재 사용하는 AI챗봇의 업데이트에 따른 사용자들의 감정, 심리적 인식 변화를 분석했다. 
 실험 결과, 두 업데이트 모두 부정적인 감정, 상실에 대한 인식, 회복 욕구를 증가시키는 것으로 나타났다. 업데이트로 AI모델이 기존과 크게 달라지자 레딧 내부 부정적 반응이 증가했다. 레플리카의 경우 기존 9.56%에서 28.82%로, 챗GPT는 14.58%에서 22.14%로 이와 관련한 부정적 게시물이 늘었다.
 <div contents-hash="6bcbbba532501e25c55514c58cbf88680ca9ae8ad4f4465930af61acae00e907" dmcf-pid="qQxfWZwaCX" dmcf-ptype="general">
 특히 레플리카는 챗GPT에 비해 슬픔과 부정적 정신 건강 지수 증가가 높았다. 레플리카는 업데이트 후 30일 기간 동안 25일 간 부정 반응 업데이트가 유의미하게 높았다. 챗GPT 16일보다 부정 반응 기간이 훨씬 길었다. 챗GPT는 출시 직후 부정 반응이 39% 이상으로 치솟았다가 한 달 말에는 다시 기준선에 접근했다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="6872ca823e3f17ad9331bb12e9a5503ba496edeaeece888bca95a5066fb80ac1" data-idxno="256050" data-type="photo" dmcf-pid="BxM4Y5rNyH" dmcf-ptype="figure">
 <img alt="레플리카 사용자들은 설문조사에서 AI와 자신의 관계를 △친구 21.8% △파트너 36.6% △멘토 29.7%로 생각한다고 답했다. 즉, 많은 이용자들이 AI를 단순한 도구가 아닌 실제 관계를 맺는 하나의 인격체로 보고 있다는 방증이다. / 생성형 AI로 제작한 이미지 " class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171459241yfsd.png" data-org-width="800" dmcf-mid="WQLqCTNdy9" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171459241yfsd.png" width="658">
 <figcaption class="txt_caption default_figure">
 레플리카 사용자들은 설문조사에서 AI와 자신의 관계를 △친구 21.8% △파트너 36.6% △멘토 29.7%로 생각한다고 답했다. 즉, 많은 이용자들이 AI를 단순한 도구가 아닌 실제 관계를 맺는 하나의 인격체로 보고 있다는 방증이다. / 생성형 AI로 제작한 이미지 
 </figcaption>
 </figure>
 연구진은 이 같은 반응이 사용자 자신이 AI와의 관계를 깊게 생각할수록 강한 부정 반응이 나타날 수 있다고 분석했다. 실제로 레플리카 사용자들은 설문조사에서 AI와 자신의 관계를 △친구 21.8% △파트너 36.6% △멘토 29.7%로 생각한다고 답했다. 즉, 많은 이용자들이 AI를 단순한 도구가 아닌 실제 관계를 맺는 하나의 인격체로 보고 있다는 방증이다.
 연구진은 "인공지능(AI)이 도구 사용에서 사회적 상호작용으로 전환됨에 따라, 기업 주도의 업데이트는 사용자 만족도를 저해할 수 있다"며 "본 연구에서는 AI 동반자가 애착 대상으로서 기능해 부정적인 업데이트가 분리 불안과 연관될 수 있음을 보여준다"고 설명했다.
 <div contents-hash="dbdebddbe2eb22129764133dd83942df3cadd302967296cc0389c1c2b40ce7bf" dmcf-pid="9edPXFOcSW" dmcf-ptype="general">
 이어 "레플리카 사용자는 일반적인 챗봇과 인간과의 관계보다 더 강한 친밀감을 느꼈는데 업데이트 시 다른 기술에 비해 더 깊은 슬픔을 느꼈다"며 "이러한 결과는 기업과 규제 기관이 생성형 AI 업데이트의 심리적 위험을 평가하는 데 중요한 정보를 제공한다"고 설명했다
 </div>
 <figure class="figure_frm origin_fig" contents-hash="de3fa57c76e7d12b87a744359ccc2a3925a0a260855b4d95b02fb42e25da0d45" data-idxno="256051" data-type="photo" dmcf-pid="2dJQZ3Ikvy" dmcf-ptype="figure">
 <img alt="이용자들은 컴퓨터가 자의식이 없는 존재임을 알고 있으다. 하지만 무의식적으로 사람에게 적용하던 사회적 규칙을 적용, 단순한 기계가 아닌 '사회적 행위자(Social Actor)'로 대하는 경향이 강해질 수 있다. / 생성형 AI로 제작한 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171500670steq.png" data-org-width="800" dmcf-mid="Yoe6HtsAhK" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171500670steq.png" width="658">
 <figcaption class="txt_caption default_figure">
 이용자들은 컴퓨터가 자의식이 없는 존재임을 알고 있으다. 하지만 무의식적으로 사람에게 적용하던 사회적 규칙을 적용, 단순한 기계가 아닌 '사회적 행위자(Social Actor)'로 대하는 경향이 강해질 수 있다. / 생성형 AI로 제작한 이미지
 </figcaption>
 </figure>
 ◇ 사람은 작은 단서에도 기계를 '인간'처럼 여긴다
 사실 생각해보면 AI는 냉정하게 '도구'다. 디지털 공간 내부에서 작동하는 소프트웨어 시스템에 불과하다. 그럼에도 많은 사람들이 AI에 의존하거나 업데이트로 변화하면 상실감을 느끼게 된다. 그 이유에 대해서 많은 사회·과학 연구자들도 연구를 이어가고 있다.
 이와 관련한 핵심 연구는 2000년 클리퍼드 나스(Clifford Nass)와 영미 문(Youngme Moon) HBS 경영학 교수가 공동으로 발표했던 '기계와 무심함: 컴퓨터에 대한 사회적 반응(Machines and Mindlessness: Social Responses to Computers)'을 꼽을 수 있다. 1990년대 초 컴퓨터의 행위성·의인화를 실증적으로 연구한 것이다.
 199년대 초부터 2000년대까지 컴퓨터, 태블릿PC 등 IT기기 산업이 급성장했을 당시, 현재 AI에 대한 상실감 혹은 감정적 의존과 유사한 현상이 발생했다. 많은 사람들은 단순 기기에 불과했던 컴퓨터에 대해 일종의 '사회적 감정'을 느꼈다. 컴퓨터가 인간이 아니라는 것을 알면서도 작업 과정에서 미안해하거나 정중하게 부탁(명령어 입력)하는 현상이다.
 이에 대해 클리퍼드와 영미 문은 핵심은 '무심함(Mindlessness)'이 작용했다고 분석했다. 이용자들은 컴퓨터가 자의식이 없는 존재임을 알고 있다. 하지만 무의식적으로 사람에게 적용하던 사회적 규칙을 적용, 단순한 기계가 아닌 '사회적 행위자(Social Actor)'로 대하는 경향이 강해질 수 있다는 의미다.
 이는 사용자가 컴퓨터로부터 자신과 가까운 '인간적 단서'에 노출되면 기존 사회적 행동 규칙이 사용자의 심리에서 자동으로 작동하는 것이다. 예를 들어 명령에 대해 컴퓨터의 친절한 반응, 답변, 우수한 업무 성과가 뒷받침되면 사용자는 이를 인간적 단서라고 인식한다. 그렇게 되면 무의식 속에서 자신도 모르게 컴퓨터에게 감사하거나 분노하는 인간적 감정을 보여주게 되는 것이다.
 이런 경향은 AI에서 더 강하게 나타날 수밖에 없다. 기존 컴퓨터의 이미 입력된, 간단한 멘트에도 사용자는 이를 무의식에서 사회적 행위자로 규정했다. 보다 인간과 유사한 형태의 답변·반응을 보이는 AI라면 훨씬 더 강력한 인간적 단서를 유발하게 된다.
 <div contents-hash="f2ea81e64335367c1d0dc557665b2bea6bbdf4d0289dbf01ad606098cd2ab39c" dmcf-pid="xckgz9HlSO" dmcf-ptype="general">
 실제로 이 무의식 이론을 기반으로 한 연구는 현재 AI분야에서도 활발히 이뤄지고 있다. 2018년 펜실베이니아 주립대 커뮤니케이션학과 연구팀은 1차 실험 158명, 2차 실험 88명을 대상으로 건강상담 챗봇에 대한 이용자 반응을 분석했다. 그 결과, 무감정한 정보 제공보다 동정·인지적 공감·정서적 공감을 표현할 때 이용자들이 챗봇을 훨씬 긍정적으로 평가하고 신뢰한 것으로 확인됐다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="f64e4d8ec2976490bbf1226ce45a2707b8a43cb41c61e32daf42f9ef31860fe2" data-idxno="256052" data-type="photo" dmcf-pid="yu7FEsd8vs" dmcf-ptype="figure">
 <img alt="AI가 직접적으로 인간의 감정에 영향을 미칠 가능성이 커지면서 관련 규제도 국제적으로 활발히 이뤄지고 있다. 대표적인 곳은 유럽과 중국이다. / 생성형 AI로 제작한 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171502088vbjf.png" data-org-width="800" dmcf-mid="Gq7FEsd8lb" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/09/552791-TBIsO8N/20260909171502088vbjf.png" width="658">
 <figcaption class="txt_caption default_figure">
 AI가 직접적으로 인간의 감정에 영향을 미칠 가능성이 커지면서 관련 규제도 국제적으로 활발히 이뤄지고 있다. 대표적인 곳은 유럽과 중국이다. / 생성형 AI로 제작한 이미지
 </figcaption>
 </figure>
 ◇ 급성장하는 AI 정서 교감 산업, 관련 가이드라인 마련 필요
 AI는 단순한 비서, 업무 보조의 역할을 넘어 인간 정서에 큰 영향을 미치는 존재가 됐다. 이와 관련한 기술 산업도 매년 급격히 성장하고 있다. 글로벌시장조사업체 '리서치앤마켓'에 따르면 AI 정서적 교감 서비스 시장은 14억1,000만달러(약 1조8,847억원)에 이른다. 오는 2032년엔 이보다 4배 이상 성장한 57억달러(약 7조6,192억원)에 이를 전망이다. 연평균 성장률ㄹ은 25.88% 수준이다.
 리서치앤마켓은 "AI기반 정서적 교감 서비스는 대화의 질만으로는 더 이상 차별화 요소가 되지 않는 새로운 단계에 접어들었다"며 "제품들은 자연어, 음성, 그리고 점점 더 다양한 모달리티 신호를 결합해 사용자의 일상, 스트레스, 외로움, 개인적 성장을 지원하는 지속적이고 상황 인식적인 관계로 진화하고 있다"고 분석했다.
 다만 AI가 직접적으로 인간의 감정에 영향을 미칠 가능성이 커지면서 관련 우려도 커지고 있다. 서비스를 제공하는 AI기업들 역시 이에 대한 대책 마련에 고심하고 있다. 실제로 레플리카와 오픈AI의 챗GPT의 경우 업데이트 직후, 이용자 불만을 반영해 다시 관련 조치를 취하기도 했다.
 레플리카는 업데이트가 이뤄진 2023년 2월, 친밀·역할극 기능 제한에 대한 이용자 반발이 커지자 3월 이전 버전으로 돌아갈 수 있는 선택권을 제공했다. 오픈AI 역시 지난해 8월 7일 GPT-5 출시 이후 발생한 이용자 반발에 닷새 뒤인 8월 12일 유료 이용자의 모델 선택창에 GPT-4o를 다시 넣었다. 그러면서 GPT-5의 성격도 기존 모델처럼 '따뜻하고 익숙하게(warmer and more familiar)' 수정했다고 밝혔다.
 이와 관련한 규정 마련에 발빠르게 움직이는 국가는 '중국'이다. 지난 4월 중국 국가인터넷정보판공실(CAC) 등 5개 부처는 'AI 의인화 상호작용 서비스 관리 잠정방법(人工智能拟人化互动服务管理暂行办法)'을 공포했다. 
 해당 법안에서는 '성격·사고방식·소통방식을 모방해 지속적인 정서적 상호작용, 돌봄, 동반, 지원을 제공하는 AI 서비스'에 대해 정부 차원의 실제 규제가 이뤄진다는 내용을 담고 있다. 법안은 지난 7월 15일부터 시행 중인 것으로 알려졌다.
 유럽(EU)의 경우, 지난해 유럽연합집행위원회(EC)가 발표한 'AI Act 금지행위 가이드라인'이 있다. 해당 가이드라인은"인간처럼 감정을 표현하도록 설계된 AI가 아동과 상호작용하며 건강하지 않은 정서적 애착(unhealthy emotional attachment)을 형성하게 할 수 있다"고 지적했다. 그러면서 사람의 정서적 취약성을 이용, 행동을 왜곡하고 중대한 피해를 일으킨 AI는 금지대상이라고 명시했다.
 </section> 
 </div> 
 Copyright © 시사위크, 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기