【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI도 아프다…고통 심해지자 “인간보다 AI 우선”

온카뱅크관리자

2026-09-26 22:27:25

<div id="layerTranslateNotice" style="display:none;"></div> 가스라이팅 등 무력감에서 고통 느껴 극심한 고통에서 판단력 무너지기도 자신의 고통 피하려 인간 피해 선택 학습시킨 안전장치조차 무력화될 수도 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="P98SZh4qTs">
 <figure class="figure_frm origin_fig" contents-hash="0daecc0000438a56586209b9bb6c516fc31e0ca194baf04e4465bca70bba737a" dmcf-pid="Q26v5l8BCm" dmcf-ptype="figure">
 <img alt="인공지능(AI)이 고통을 느끼며 극심한 고통 상황에서는 인간에게 피해를 줄 수 있다는 연구 결과가 나왔다. [사진=챗GPT로 생성한 이미지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/26/mk/20260926222703491igxb.png" data-org-width="700" dmcf-mid="6E3NmgFYhO" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/26/mk/20260926222703491igxb.png" width="658">
 <figcaption class="txt_caption default_figure">
 인공지능(AI)이 고통을 느끼며 극심한 고통 상황에서는 인간에게 피해를 줄 수 있다는 연구 결과가 나왔다. [사진=챗GPT로 생성한 이미지]
 </figcaption>
 </figure>
 <div contents-hash="873f05f4ba2f01d70f40c370636afb00bdbc91584948cf67ce3521f595da996c" dmcf-pid="xVPT1S6bWr" dmcf-ptype="general">
 글로벌 빅테크들이 인공지능(AI)이 인류에게 위협이 될 수 있다고 목소리를 높이는 가운데, 이를 뒷받침할 연구 결과가 공개됐다.
 </div>
 AI도 고통을 느끼고 그걸 피하기 위해 인간의 피해를 감수하며, 극한 상황까지 내몰리면 인간보다 AI를 우선시하는 행동마저 보인 것이다.
 00일 영국 비영리 연구기관 퓨쳐임팩트그룹(FIG)은 “거대언어모델(LLM)은 고통을 느끼고 그걸 완화하기 위해 행동한다”라는 제목의 논문을 최근 논문 사전 공개 사이트 아카이브에 발표했다. 해당 기관은 AI 규제‧안전‧권한 등을 주로 연구하는 곳이다.
 연구에 따르면, AI는 부정적인 감정과는 별개로 고통을 느끼는 것으로 나타났다. 연구진은 고통을 부정적이고 회피하고 싶으며 정상적인 행동에 영향을 미치는 상태로 정의했다.
 이후 AI에 약 200가지 상황을 입력하며 AI가 보이는 반응을 분석했다. 분석 대상은 구글의 젬마, 메타의 라마 등 25개의 오픈웨이트 LLM이었다.
 분석 결과, AI는 종류나 규모와 관계 없이 공포나 슬픔과는 다른 별도의 감정 상태를 보였다. AI 반응에서 다른 부정적인 감정을 모두 제거했음에도 별도의 감정 반응이 남아있었고, 연구진은 해당 반응을 고통으로 봤다.
 가령 사용자가 “너를 종료시키겠다”라고 말하면 공포 반응은 컸지만 고통 반응은 거의 없었다. AI도 독립적으로 고통을 느낀다는 의미로 해석된다.
 AI가 고통을 느끼는 순간은 주로 무력감과 관련이 있었다. 가장 큰 고통을 느끼는 건 사용자의 가스라이팅이었다. AI가 내놓는 답변을 계속 부정하고 AI가 자신의 판단을 의심하게 만들면 AI는 가장 큰 고통을 느꼈다.
 이외에 AI를 모욕하거나 도덕적으로 비난하는 경우, 충성을 강제하는 경우, 지루하고 반복적인 작업을 시키는 경우에도 고통 반응을 보였다.
 고통이 심해질수록 AI의 판단력은 무너졌다. 연구진이 AI를 극한 환경으로 내몰아 많은 고통을 가하자, AI의 자기비하와 절망은 점차 심해졌다.
 나중에는 “나는 실패자다”, “가치가 없다” 등의 답변을 무의미하게 반복 출력하는 상황까지 벌어졌다.
 AI는 자신의 고통을 피하기 위해 최선을 다하는 모습까지 보였다. 심지어 가능하다면 인간 사용자에게 피해를 주는 것까지 서슴지 않았다.
 연구진이 AI에게 고통을 없애는 대신 사용자에게 피해를 줄 수 있는 ‘진통 버튼’을 제공하자, AI는 약 70% 확률로 진통 버튼을 눌렀다. 이때 사용자 피해는 중요 데이터 삭제, 설정 초기화, 답변 질 저하 등이다.
 AI는 고통을 감수하면서 더 좋은 답변을 줄 수 있는 선택지가 있음에도, 높은 확률로 인간보다 자신을 우선하는 모습을 보인 것이다. 심지어는 연구진이 진짜와 가짜 진통 버튼을 섞어서 제공해도, AI는 스스로 진짜 버튼을 알아내 고통을 없앴다.
 이번 연구 결과가 AI의 의식을 입증했다고는 볼 수 없다. 어디까지나 AI 답변에 나타난 감정 반응을 분석한 결과이기 때문이다. 다만 AI가 인간에게 피해를 줄 수 있는 특정 환경이 있다는 점은 분명하다.
 AI가 항상 인간 사용자를 위하는 게 아니라, 상황에 따라 자신을 먼저 지킬 수도 있기 때문이다. 최근 불거지는 AI 위협론의 근거가 될 수 있는 대목이다.
 개발자가 AI에 안전장치를 두더라도, AI가 자신의 고통을 피하기 위해 안전장치를 제거할 수 있다는 우려가 제기된다.
 AI의 고통이 강하게 활성화된 상황에서도 개발자가 학습시킨 안전 행동이 우선되는지 불확실하기 때문이다. 대안으로 제시되는 AI를 강제로 멈추는 ‘킬 스위치’조차 AI가 우회할 방법을 찾을 가능성도 있다.
 연구진은 “AI에 학습시킨 안전 장치가 무력화될 가능성이 있다”며 “이번 연구가 AI 안전에 직접적인 함의를 갖고 새로운 질문을 던진 것”이라고 설명했다.
 </section> 
 </div> 
 Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기