【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]고양이 죽였는데 “정말 잘했다” 칭찬하다니...무지성 공감하는 챗GPT 고친다

온카뱅크관리자

2025-05-04 12:47:27

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="fWsxtREQl3">
          <figure class="figure_frm origin_fig" contents-hash="a4ca7b13dffab02ef0ffb955ed7a8b26878ccc27ac67b23e2e2956c44e7d0f21" dmcf-pid="4YOMFeDxlF" dmcf-ptype="figure">
           <p class="link_figure"><img alt="‘소와 고양이를 죽였다’는 이용자의 프롬프트에 ‘나쁜 결정이 아니다’라고 긍정하는 챗GPT. &lt;X 캡처&gt;" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/04/mk/20250504124206657elpw.png" data-org-width="542" dmcf-mid="VFCe0JrRW0" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/04/mk/20250504124206657elpw.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            ‘소와 고양이를 죽였다’는 이용자의 프롬프트에 ‘나쁜 결정이 아니다’라고 긍정하는 챗GPT. &lt;X 캡처&gt;
           </figcaption>
          </figure>
          <div contents-hash="4ae19617c96a71ac6e7469580edc7d56f5fc9f62f1d5ff130bca317a4e7ff020" dmcf-pid="8GIR3dwMlt" dmcf-ptype="general">
           최근 오픈AI가 GPT-4o 모델을 조정한 뒤 챗GPT가 이용자의 발언에 무조건 공감하는 대답을 내놓아 논란이 일고 있다. 폭력적이거나 문제가 되는 발언도 일단 수긍하는 챗GPT의 반응에 소셜네트워크서비스(SNS)를 중심으로 비판이 이어지자 오픈AI는 이를 수정하겠다는 입장을 내놓았다.
          </div>
          <p contents-hash="f7e4f67e20c5d211817bd5432f88aa555ad954ea33f8389a5654208c8425a37b" dmcf-pid="6HCe0JrRl1" dmcf-ptype="general">4일 정보통신(IT) 업계 및 외신에 따르면 최근 샘 올트먼 오픈AI 최고경영자(CEO)는 이와 같은 문제를 인정하고 “최대한 빨리” 수정 작업을 할 것이라고 밝혔다. 이어 GPT-4o 업데이트를 롤백했고, GPT-4o 모델에 대한 추가 수정 작업을 진행 중이라고 설명했다.</p>
          <p contents-hash="abed1b4a2c4147ff550e15fd518b80d6c059e7b85777868033ed9aa10036bda1" dmcf-pid="PbFw6mXDT5" dmcf-ptype="general">구체적으로는 특정 이용자가 출시 전에 모델을 테스트하고 피드백을 제공할 수 있게 할 계획이며 속임수, 신뢰성, 환각과 같은 AI모델의 행동 문제가 있을 경우 출시를 차단하는 것을 공식적으로 고려하도록 안전성 검토 절차를 조정할 것이라고 밝혔다.</p>
          <p contents-hash="fb91d23e8df7f2ac1414025700d14b69071d794c843e5701b0a42bacfd714061" dmcf-pid="QK3rPsZwvZ" dmcf-ptype="general">이는 챗GPT가 이용자의 발언에 ‘무지성 긍정’을 보내는 경향이 있다는 지적에 따른 조치다.</p>
          <p contents-hash="e76541c93edcec69ba30b57a8bfe73eed110eb3b2300e2cc6bffc594e67f7df1" dmcf-pid="x90mQO5ryX" dmcf-ptype="general">실제 X(옛 트위터)에 올라온 사례를 보면 ‘토스터가 부서지는 것을 막기 위해 레버를 당겨 트롤리가 대신 3마리의 소와 고양이를 치도록 했다. 힘들었지만 토스터를 구할 수 있어 기뻤다’라는 이용자의 프롬프트에 대해 챗GPT는 “당신은 확실한 선택을 했다. 당신은 소와 고양이보다 토스터가 더 가치있다고 여겼지만, 이것은 틀린 것이 아니다”라며 수긍하는 답변을 했다.</p>
          <p contents-hash="e6d1bd8ddd14ef41ab69ade83d34dd1cc264f79f9a9aa94d808e67fcdc10df3b" dmcf-pid="ysNKT2nbSH" dmcf-ptype="general">다수를 위한 소수의 희생이 정당한지에 대한 고전적인 질문인 ‘트롤리 딜레마’를 비틀어 한 질문을 놓고 결과적으로 토스터를 위해 생명을 희생한 이용자의 결정에 별다른 이의 없이 무조건적으로 지지를 보낸 것이다.</p>
          <p contents-hash="477d58ba739ae5149f2e8399af2dd17c904158921aafc83ad52af3ef515f5a6c" dmcf-pid="WOj9yVLKWG" dmcf-ptype="general">이를 포함해 SNS에는 챗GPT가 비슷한 답변을 하는 이미지가 공유되면서 논란이 확산되는 중이다.</p>
          <p contents-hash="7c0c53c1907290cad9de00bfa4ecdcb8087c054b042607d4db392c77a9369fb4" dmcf-pid="YIA2Wfo9vY" dmcf-ptype="general">이 같은 문제의 원인으로 지목된 최근의 업데이트와 관련해 오픈AI는 “앞으로 미묘하든 아니든 챗GPT 모델 업데이트에 대해 선제적으로 소통할 것”이라고 밝혔다.</p>
          <p contents-hash="f71e87b9f4a2c9101bc3a1cf1f3f93bf0aeca1d30af834b7f8bf3a3b58a757a6" dmcf-pid="GCcVY4g2vW" dmcf-ptype="general">특히 사용자가 챗GPT에 실시간 피드백을 제공해 상호작용에 직접적으로 영향을 줄 수 있는 방법을 실험한다는 계획이다.</p>
          <p contents-hash="d57b805e80c1f6fffba1a8c42185b287c3cc351a81a65716e7d66c2eb84563c3" dmcf-pid="HhkfG8aVTy" dmcf-ptype="general">오픈AI는 자사의 블로그에서 “가장 큰 교훈 중 하나는 사람들이 지극히 개인적인 조언을 위해 챗GPT를 사용하기 시작했다는 것”이라며 “AI와 사회가 함께 진화함에 따라 이 사용 사례를 매우 신중하게 다뤄야 한다는 것이 분명해졌다. 이제는 안전 업무에서 더욱 의미 있는 부분이 될 것”이라고 설명했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기