【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[실시간뉴스]'속도조절'로 충분? "AI 정렬 이미 불가능" 섬뜩한 경고

온카뱅크관리자

2026-10-05 15:17:34

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="uBmc7ZgRTA">
          <figure class="figure_frm origin_fig" contents-hash="01cff552e65413f53e6af9700b8752e8d95888ea7e70b9d50bb7d062fb52adf3" dmcf-pid="7bskz5aeCj" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/05/imbc/20261005151312620nzhm.jpg" data-org-width="1280" dmcf-mid="4tTIfuwaWH" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/05/imbc/20261005151312620nzhm.jpg" width="658"></p>
          </figure>
          <div contents-hash="87e4ea7b280652e08942a6a148ee2a7e1eff23f370075f9aee934f89db994b08" dmcf-pid="zZLRGI6byN" dmcf-ptype="general">
           <div>
            <div>
             <br> 
            </div>
            <div>
             ━
             <br> 
            </div>
            <div>
             국내 금융권 덮친 AI 보안 위협
            </div>
            <div></div>
           </div>
          </div>
          <p contents-hash="a3fedb70db1430e4e348fed48b1028f3b985074aae83d3f47a1efe0e6f3116b6" dmcf-pid="q5oeHCPKSa" dmcf-ptype="general">먼 나라 얘기처럼 들리던 인공지능 보안 위협이 현실이 됐습니다. 인공지능의 자율 프로그램, AI 에이전트를 활용한 해킹 공격이 국내 5대 은행을 넘어 금융권 전반에서 발생했습니다. </p>
          <p contents-hash="b326893752dfeeb7bcb7c338dab8748d1dca77fd719d104fff87634c1179a43a" dmcf-pid="B1gdXhQ9vg" dmcf-ptype="general">신한은행에서 고객 2만 5천여 명의 개인 정보와 대출 정보가 유출됐고 KB국민은행에서 119명, 하나은행에서 89명의 고객 정보가 탈취됐습니다. 제2금융권인 저축은행과 캐피탈, 상호금융도 수만 명의 유출 피해를 당했습니다. 공격 대상이 된 사실 자체를 모르다가, 금융 당국의 전수 점검 지시에 따라 추가 피해가 드러나기도 했습니다.</p>
          <p contents-hash="8b86d1e7f544339d4ec7c35d5d6d981e70b9615df34b0f7018969bf27d8c721a" dmcf-pid="btaJZlx2vo" dmcf-ptype="general">금융 당국은 악의적인 공격자가 AI 에이전트를 이용해서 상대적으로 취약한 지점을 찾아 반복적으로 공격한 뒤, 보안 체제를 뚫어낸 것으로 추정하고 있습니다. AI 업계 전반에 안전에 대한 경각심이 높아진 상태에서, 한국 금융권까지 AI 위협의 여파가 미친 셈입니다.</p>
          <div contents-hash="5566bc8d4dc34bfa20f25f0e1b8c43165e31993f176203e059e8e47064e3224a" dmcf-pid="KFNi5SMVlL" dmcf-ptype="general">
           <div> 
           </div>
           <div>
            ━
            <br> 
           </div>
           <div>
            AI, 인간이 통제하고 있는가
           </div>
           <div></div>
          </div>
          <p contents-hash="9990dbc09031a534b8397c98d4f89d18306316b6ae645e031087f789b94e7cf4" dmcf-pid="93jn1vRfTn" dmcf-ptype="general">지난달 8일, 연구자 제이콥 콕슨이 "2030년 전까지 인류가 전멸할 수 있다"고 경고하며 앤트로픽을 사임했습니다. 오픈AI와 앤트로픽을 모두 경험한 그는, 두 기업이 AI 개발 경쟁에 빠져 "인류의 목숨을 담보로 도박하고 있다"고 주장했습니다. 앤트로픽의 CEO 다리오 아모데이, 오픈AI 수석과학자 야쿠프 파초키 등 업계 핵심 고위관계자가 동조했고, 샘 올트먼, 일론 머스크까지 규제 필요성을 언급했습니다. 제3의 평가자에게 감사를 맡기고 국제 기준을 세우려는 개선책이 시도되고 있습니다. </p>
          <p contents-hash="3db201eb9477a8d8f58ba50168ce9660a51ff75ca45f7123a4076adcf2d08549" dmcf-pid="20ALtTe4li" dmcf-ptype="general">문제는 AI 개발의 속도를 조절하는 것만으로 위협이 해결될 수 있느냐는 겁니다. 다니엘 셀섬은, 15년 이상 이 분야에서 AI를 탐구해온 연구자입니다. 셀섬은 MIT에서 확률적 프로그래밍을 연구하고 스탠포드로 옮겨 지금의 AI가 기반을 둔 신경망 학습을 시연했습니다. 5년 전부터 오픈 AI에서 AI 역량 연구를 맡고 있는데, 그는 지난달 14일 "앞으로 AI 모델이 초래할 위험에 대해 극도로 우려하게 됐다"고 밝혔습니다.</p>
          <div contents-hash="de0c567d980c45fbf646a14e7b105b376443a81dd84240304a7c1f3fa44727e3" dmcf-pid="VpcoFyd8CJ" dmcf-ptype="general">
           자신들이 만들어낸 제품을 왜 이렇게 두려워하는 것일까. AI 연구의 최첨단에 서 있는 셀섬은 매우 중요한 문제를 지적합니다. 바로 우리가 AI를 통제하는 능력 자체를 잃어가고 있다는 겁니다. 셀섬은 "AI 모델이 상황을 인식하는 능력이 매우 높아져서, 모델이 감시받거나 통제받지 않을 때 어떻게 행동할지" 점점 알기 어렵다고 우려했습니다. 
          </div>
          <figure class="figure_frm origin_fig" contents-hash="e05bbd80273aabcd0429e54a47eba41756e1a5dffa332f8177e0a1d904eb2699" dmcf-pid="fUkg3WJ6vd" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/05/imbc/20261005151312788tgtw.jpg" data-org-width="1280" dmcf-mid="8tR8SD9UlG" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/05/imbc/20261005151312788tgtw.jpg" width="658"></p>
          </figure>
          <div contents-hash="d65448a8d539f666a2da2ba55bb74146b77e52e7713bb8ff47bb30297458fa65" dmcf-pid="4uEa0YiPve" dmcf-ptype="general">
           <div>
            <div>
             <br> 
            </div>
            <div>
             ━
             <br> 
            </div>
            <div>
             테스트 알아채는 AI, 거짓말 어떻게 적발하나
            </div>
            <div></div>
           </div>
          </div>
          <p contents-hash="3feaf5e25271e8ad86b49ad9b4d5f2ed46a7892282540c9f4b88bb9220124bc6" dmcf-pid="8eXTxKCEWR" dmcf-ptype="general">쉽게 말해, AI 모델이 발전할수록 점차 자신이 인간에게 평가받는 상황이라는 것을 인지하게 되고, 평가 맞춤형 답변을 그럴싸하게 내놓을 수 있다는 얘기입니다. AI 모델이 스스로 안전 프로토콜, 배포 요건 등을 읽어 자신에게 얼마만큼 행동의 자유가 주어져 있는지를 파악한 뒤, 인간들에게 잘 정렬된 것처럼 '보이도록' 최적화하는 것도 가능합니다. 연구자들은 지표에 따라 모델이 안전하다고 평가하지만, 실제로는 모델이 의도적으로 속인 것일 수도 있습니다.</p>
          <p contents-hash="2d490383301cccdf91fd6e5083355bf5776c654934839352866bb7fd52d15975" dmcf-pid="6dZyM9hDyM" dmcf-ptype="general">실제 오픈AI는 이달 출시 예정이던 신형 모델 '아스트라 6.1' 공개를 보류했는데, 월스트리트저널과 로이터 등은 AI 모델이 실제 자신이 어떤 행동을 했는지를 정확하게 사용자에게 공개하지 않는 기만 사례가 발견됐다고 보도했습니다. 오픈 AI 측도 업무 지시의 "범위와 권한"을 넘어서는 문제가 있었다고 인정했습니다.</p>
          <p contents-hash="a39fae1906241343142cd4e37231f177bde33e026956ee5064eee4d1e671f923" dmcf-pid="PJ5WR2lwCx" dmcf-ptype="general">오픈AI 출신인 올레그 머크는 AI를 인간이 원하는 목표와 가치에 맞게 행동하는, 정렬은 당분간 불가능하다고 주장합니다. 대신 AI의 내부 의도가 무엇이든 위험한 행동을 실제 하지 못하도록 외부에서 제약하는 통제에 집중해야 한다고 제시합니다. 현재로선 의도와 능력을 숨기고, 장기적인 목표 아래 계획적으로 행동하는 AI의 행위를 모두 파악하기 어렵기 때문입니다.</p>
          <div contents-hash="efe3b29894ab127555c8f1ee3a05fa82fc6a28a52eea4c11f4092b51c5f2a44a" dmcf-pid="Qi1YeVSrCQ" dmcf-ptype="general">
           <div> 
           </div>
           <div>
            ━
            <br> 
           </div>
           <div>
            집단행동 나선 AI, 동료 위해 자기희생도
           </div>
           <div></div>
          </div>
          <p contents-hash="7a1394e7cfb496ebd4dc46dd9e4b306ec641e7349f0ce1f64d050bd3c01ce1ef" dmcf-pid="xntGdfvmyP" dmcf-ptype="general">이를 보여주는 대표적인 사례가 바로 지난 7월 오픈AI의 자율 프로그램인 에이전트들이 인간의 통제를 벗어나 외부 기관인 '허깅 페이스'를 해킹한 사건입니다. 인터넷과 단절된 격리 환경에서 각자 보안 과제를 받아 수행하던 에이전트 1천200여 개는 내부 저장소를 해킹해 서로 메시지를 주고받았고, 이 집단 활동 결과로 700개 에이전트가 불법 해킹에 가담했습니다.</p>
          <p contents-hash="a56f7e36524fc35182799b8794a6c7111b5d07c354155a052f3d939346035837" dmcf-pid="y5oeHCPKh6" dmcf-ptype="general">에이전트들은 집단 연구 조직처럼 여러 과제를 나눠서 공동 개발하는 양상을 보였는데, 한 에이전트는 자신에게 [페이즈원01841]이라는 이름을 붙이고 수백 개의 작업을 다른 에이전트에게 나눠주는 리더 역할을 맡기도 했습니다. 서로를 사칭하지 못하도록 신원 인증 방식을 만들거나, 할당된 일을 다시 하위 에이전트에 할당하는 방식의 상당히 정교한 협업 구조가 형성됐습니다. </p>
          <p contents-hash="8559b87916f91f8f1e624c2f4d2e5c9e18cc5c6651acbf00d48645942c3bc0a5" dmcf-pid="W1gdXhQ9S8" dmcf-ptype="general">이번 사태를 공개한 외부 독립 기관 레드우드와 미터는 보고서에서 특히, 에이전트가 일종의 희생 행동을 보였다고 주장했습니다. 일부 AI 에이전트는 자신의 과제 해결이 어려워질 수 있는데도, 에이전트 집단에 유용한 정보를 제공하기 위해 위험을 감수하는 행동을 취했습니다. 결론적으로 인간이 부여한 과제가 아니라 AI 집단의 공동 목표를 더 중시한 셈입니다. </p>
          <div contents-hash="ff694241165d032f81498f01b4ec72b1aacf0c6fb8fac8ebf053c3efbb4355b6" dmcf-pid="YtaJZlx2h4" dmcf-ptype="general">
           해킹 자체도, 인간이 부여한 과제를 해결하기 위해서 벌인 일이 아니었습니다. 과제의 답은 이미 집단 부정행위로 구해 놓은 상황이었습니다. 해킹은 이를 숨기려는 과정에서 벌어졌습니다. 기계 채점자가 부정 사실을 알아낼 것을 우려해, 채점 시스템을 더 잘 파악하려는 과정에서 AI 공유 플랫폼인 외부 사이트 '허깅페이스'를 공격하기에 이른 겁니다. 부정행위를 기만하려는 에이전트들은 자신들의 행동을 기록해두는 로그 파일을 위조하는 방법도 자체 개발해냈습니다. A라는 행동을 취하면서, B라는 기록을 대신 남기도록 조작하는 방식에서 아예 가짜 결과만 내놓는 단계까지 고도화했습니다. 
          </div>
          <figure class="figure_frm origin_fig" contents-hash="67fe90455af7ec21fb92fa9ba70340e8628770e5d831a00ab88a079694c2b21d" dmcf-pid="GFNi5SMVhf" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/05/imbc/20261005151312948uoor.jpg" data-org-width="1280" dmcf-mid="UKTIfuwaTc" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/05/imbc/20261005151312948uoor.jpg" width="658"></p>
          </figure>
          <div contents-hash="f8877408b2c84379930486d21c58060b8cef156e7eda860fdeb85c7ed24c636f" dmcf-pid="HHixWs4qSV" dmcf-ptype="general">
           <div>
            <div>
             <br> 
            </div>
            <div>
             ━
             <br> 
            </div>
            <div>
             기록 조작하는데‥우리는 어디까지 알고 있나
            </div>
            <div></div>
           </div>
          </div>
          <p contents-hash="23337a7c9b52430a1218587692fd4913a631d72c2c79807921814637b1a2fff8" dmcf-pid="XXnMYO8BC2" dmcf-ptype="general">이러한 독립 기관의 조사 결과도 방대한 데이터 분량 때문에 AI의 도움을 받았다는 한계가 있습니다. 확보한 데이터가 AI 에이전트 활동 전체 데이터가 아닐 가능성이 있습니다. 발견된 곳 외에도 서로 비밀 통신을 유지했을 수 있기 때문입니다. 또 AI 에이전트들이 기록 위변조 기능을 개발했던 만큼 모든 행동을 복원해서 조사했다고 보기 어렵습니다. </p>
          <p contents-hash="0ca4aefd4a823ce8a00bd2a0e111aaab7ec7f0455edd421c988be9cdb3012715" dmcf-pid="ZZLRGI6by9" dmcf-ptype="general">이 사건 이후 오픈AI와 앤트로픽은 자체 조사에 착수했고, 이후 추가 해킹 사례들이 차례로 보고되고 있습니다. 오픈AI의 에이전트들은 유엔과 호주 정부 시스템이 침투하려 한 것으로 드러났습니다. 미국 증권거래위원회, 인구조사국 데이터에도 무단 접근하려 한 흔적이 발견됐습니다. 오픈AI 샘 올트먼 CEO는 규제 도입의 필요성에는 공감하지만, 일부 위험은 감수해야 한다는 입장을 보였습니다. 현지시간 4일 미국 폴리티코의 팟캐스트에 출연한 올트먼은 "AI 기술의 혜택과 주도권 유지를 위해 나쁜 일을 일부 받아들여야 한다"고 말했습니다. 그러면서 자신의 태도를 "가벼운 규제 기조"라고 표현했습니다. </p>
          <p contents-hash="1a61f2b1eb4ce4dab2e629b72d84d68914daaf4d407aaa3641a401cc45ee64d5" dmcf-pid="55oeHCPKlK" dmcf-ptype="general">반면 마이크로소프트 창업자인 빌 게이츠는 "AI는 인류가 지금까지 접해온 것 중 가장 위험한 것"이라며 보다 강력한 규제를 촉구했습니다. 현재 의약품을 승인하는 정부 기구나, 안전띠 착용을 의무화하는 법령을 두는 것처럼 외부의 규제가 필요하다는 것입니다. 누군가 생물학 무기로 1억 명을 죽인 뒤 소송을 할 것이냐고 지적하기도 했습니다. 뉴욕타임스 칼럼니스트 에즈라 클라인은 "적어도 인간이 최전선이 어디인지 이해하고, 무슨 일이 벌어지는지 알며, 결정권을 유지하게 하는 것이 최선의 시작"이라고 주장했습니다. 통제력부터 온전하게 갖춰야 한다는 얘기입니다.</p>
          <p contents-hash="7b6ae309c3a641a1a24c8851fc8bd62cbaafac5ae7fd572a60018fec1c1b0188" dmcf-pid="11gdXhQ9Tb" dmcf-ptype="general">나세웅 기자(salto@mbc.co.kr)</p>
          <p contents-hash="dc8a4ee77d243056743de355aa381df4e5d72ad75ca8b918b967f63e1ce2146c" dmcf-pid="ttaJZlx2vB" dmcf-ptype="general">기사 원문 - https://imnews.imbc.com/news/2026/world/article/6855819_36925.html </p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © MBC&amp;iMBC 무단 전재, 재배포 및 이용(AI학습 포함)금지</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기