【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]'인간보다 똑똑한 AI' 만들려 했던 남자, 20년 뒤 개발 중단 외치는 이유

온카뱅크관리자

2026-11-05 08:47:26

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">유드코스키 MIRI 설립자, SDF 2026 참석차 방한해 초지능 개발 전면 중단 촉구<br>"똑똑한 AI가 인간 뜻 따르는 것 아냐…체스 게임처럼 인간 통제 벗어날 것"<br>"한 회사만 멈춰선 안 돼"…국제협약·한국 역할도 강조</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="xixT7hXS5s">
          <figure class="figure_frm origin_fig" contents-hash="5082fb39fb0f4bf5d68d1b35905876ede6cf72e815c87d0e3fb34d4df4259389" dmcf-pid="y1YMD6nQZm" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[서울=뉴시스]오동현 기자 = 엘리에저 유드코스키 미국 머신 인텔리전스 리서치 인스티튜트(MIRI) 공동설립자가  4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 인터뷰를 진행했다. odong85@newsis.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/05/newsis/20261105084223137xncr.jpg" data-org-width="720" dmcf-mid="Qz3glikLGO" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/05/newsis/20261105084223137xncr.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [서울=뉴시스]오동현 기자 = 엘리에저 유드코스키 미국 머신 인텔리전스 리서치 인스티튜트(MIRI) 공동설립자가 4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 인터뷰를 진행했다. odong85@newsis.com
           </figcaption>
          </figure>
          <p contents-hash="910d698db626059463347916d8a20a1bde1a530fa874afd6ba7c39472500c9e3" dmcf-pid="WtGRwPLx5r" dmcf-ptype="general">[서울=뉴시스]오동현 기자 = "변명을 하자면, 당시 저는 스무 살이었습니다."</p>
          <p contents-hash="43536fb50452ce932308e1d6153df03c1fe913e31212389508167671f9733c40" dmcf-pid="YFHerQoMZw" dmcf-ptype="general">초지능 개발을 멈춰야 한다고 주장하는 엘리에저 유드코스키 미국 머신 인텔리전스 리서치 인스티튜트(MIRI) 공동설립자도 한때는 인간보다 똑똑한 인공지능(AI)을 만들려 했다. </p>
          <p contents-hash="1dc86247ae1e954d170e59a36f9c5e6bcbe70623bf28627ee061b0d0550cd169" dmcf-pid="G3XdmxgR1D" dmcf-ptype="general">생각이 달라진 계기를 묻자 그는 회한에 잠겼다. AI가 아무리 똑똑해진다고 해서 인간의 뜻과 목표까지 순순히 따르는 것은 아니라는 사실을 뒤늦게 깨달았기 때문이다.</p>
          <p contents-hash="376cb06c0617c9a1792c954d958ac2f3c85dd936e3b7ee8a9eec5857e2baa9f5" dmcf-pid="H0ZJsMaetE" dmcf-ptype="general">AI가 인간이 원하는 목표를 따르도록 하려면 별도의 노력이 필요하다는 사실을 처음 알아차린 뒤, 그 노력이 실패했을 때의 위험을 받아들이기까지는 약 2년이 걸렸다고 했다.</p>
          <p contents-hash="a83f926e0ff6d0f3109b71fb2d4c7dad5fb597a76510010c9e3dc2207b77b8e6" dmcf-pid="Xp5iORNd5k" dmcf-ptype="general">SBS D포럼(SDF 2026) 참석차 방한한 유드코스키는 4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 만나 "그 깨달음이 부끄러울 만큼 느리고 오래 걸렸다"고 말했다.</p>
          <h3 contents-hash="10fb8e5ef8c8ecc56b960dfb851568d7f73aad11c4c1d80b09834a730092dc16" dmcf-pid="ZU1nIejJXc" dmcf-ptype="h3">"AI는 당신이 아는 것을 모두 알고, 더 많은 선택지를 본다"</h3>
          <div contents-hash="3bdf6d3fd3903fa9626b22ca3251ae107bd3e7d4ec719f495395d9e5769dd3e9" dmcf-pid="5utLCdAiHA" dmcf-ptype="general">
            그가 말하는 초지능은 바둑이나 수학만 잘하는 AI가 아니다. 과학 연구와 공학, 설득과 전략 수립에서도 인류 전체보다 뛰어난 AI다.
          </div>
          <p contents-hash="430537b7897e6f8b68e1b4cd84912e3afd4556fc53707d50c780897dc853dc74" dmcf-pid="17FohJcnXj" dmcf-ptype="general">그는 "초지능은 사람이 아는 것을 모두 알고, 사람보다 더 많이 예측한다. 선택지도 보다 더 많이 보고, 그것들을 더 잘 평가한다"고 설명했다.</p>
          <p contents-hash="1233ab5fe60c9594c3cde9cd1b841492802c52383f39222c1d287eb63fbce31f" dmcf-pid="tz3glikLZN" dmcf-ptype="general">이런 상황을 체스 대결에 빗댔다. 그는 "한 사람이 상대를 이길 방법을 찾았다고 생각했을 때, 더 뛰어난 상대는 이미 그 방법을 예상하고 대응책까지 마련했을 수 있다"면서 이런 초지능이 등장했을 때, 사람이 통제할 수 있겠느냐는 것이 그의 우려다.</p>
          <p contents-hash="4d87c1f6820c338c50fc388c515cd65e2e3d868af190618b4795b394b6dfa86e" dmcf-pid="Fq0aSnEo5a" dmcf-ptype="general">그는 그동안 AI가 인간이 원하는 목표를 따르도록 만드는 '정렬' 문제를 고민해왔다. 문제를 푸는 능력이 뛰어난 AI를 만드는 것과 그 능력을 인간이 원하는 방향으로 사용하게 하는 것은 다른데, 이 연구가 충분히 진전되지 않고 있다고 봤다.</p>
          <p contents-hash="0b842568b939c8fb29069c59a3d29012698cf6946850848612ee456cae9a81c8" dmcf-pid="3BpNvLDgYg" dmcf-ptype="general">이에 그는 "초지능 개발의 속도를 늦추는 것보다 멈추라고 말하겠다"며 단호한 입장을 밝혔다.</p>
          <h3 contents-hash="1a0c7b393b857e437568351d71e8848cf0adbf56bc93187ca896a2d82d0e7e52" dmcf-pid="0bUjTowato" dmcf-ptype="h3">"테러리스트 손에 안 들어가도 문제"</h3>
          <div contents-hash="e22764bd03899dfc355317b67b218ee3b0233c854cac3c03ab736ce78c1f0b3a" dmcf-pid="pKuAygrN5L" dmcf-ptype="general">
            유드코스키는 AI를 악용할 테러리스트나 악당을 막는 것만으로는 안전을 보장할 수 없다고 단언했다. AI 스스로가 인간의 통제선 밖으로 튕겨 나갈 수 있어서다.
          </div>
          <p contents-hash="68f2c70a209adacdf15c765f91a093916c3943720e2771b98058d060cc4c439c" dmcf-pid="U97cWamjYn" dmcf-ptype="general">그는 테러리스트의 손에 들어가지 않게 막더라도 AI를 계속 더 강력하게 만들면 결국 파국으로 끝날 것이라고 경고했다. </p>
          <p contents-hash="9686ee7919c8fcf65e20b1a0ec2bf1df6dd67af1f0428a07ba7219fb37cb6485" dmcf-pid="ulmbi74qti" dmcf-ptype="general">법과 제도로 안전한 개발 환경을 가다듬을 수 있다는 낙관론에도 명확히 선을 그었다.</p>
          <p contents-hash="00da3008346ac406c28edcbe7e46e051f379f99514dcd9d7b60537903ea9f3f0" dmcf-pid="7SsKnz8BXJ" dmcf-ptype="general">그는 "현재 수준의 AI가 테러리스트의 생물무기 개발을 돕지 못하게 하는 일과 인류 전체보다 똑똑한 것을 만들어 통제하려는 일을 혼동하는 것은 잘못"이라고 강조했다.</p>
          <p contents-hash="54cb16abc5d9139c0e43d846a90490e2dc51f08c3ecadf068feebec06808567d" dmcf-pid="zvO9Lq6bYd" dmcf-ptype="general">지금의 AI가 위험한 요청을 거절하도록 만들었다고 해서, 인간보다 훨씬 똑똑한 AI도 통제할 수 있다는 뜻은 아니라는 설명이다.</p>
          <h3 contents-hash="b6c83c4f9e557a97757b8f6f15bd5725d601861b0c9d509a2963168604ea9fbf" dmcf-pid="qTI2oBPKte" dmcf-ptype="h3">"암 치료 AI 필요하지 않나"…알파폴드 혜택은 인정</h3>
          <div contents-hash="59840e2ea84971742a078382cb083b13a26733b38e45696f2502234f2fd2c9d4" dmcf-pid="ByCVgbQ9tR" dmcf-ptype="general">
            질병을 치료하고 인류의 난제를 풀려면 더 강력한 AI가 필요하지 않느냐는 질문에 대해선 "암을 치료하겠다는 AI를 만들었는데, 암을 치료하는 대신 모두를 죽게 한다면 좋은 거래라고 생각하지 않는다"고 답했다.
          </div>
          <p contents-hash="3d6bef91b551e46a9bca679c33244a36e8c09a0d6354cb325d9d78451e239dad" dmcf-pid="bWhfaKx2YM" dmcf-ptype="general">다만 모든 AI의 개발을 멈추자는 뜻은 아니라고 말했다. 그는 단백질의 입체 구조를 예측하는 AI '알파폴드' 등을 예로 들며 특정 분야에 특화된 AI에서는 상대적으로 위험이 적은 혜택을 얻을 수 있다고 봤다.</p>
          <p contents-hash="4619e61c268c890c14e8a40a178df4687290a21a56d0d4e212466b08a9905197" dmcf-pid="KYl4N9MV1x" dmcf-ptype="general">그가 경계하는 것은 AI가 스스로 더 뛰어난 AI를 만드는 것이다. 그 AI가 다시 다음 세대 AI를 개발하는 과정이 반복되면 발전 속도가 계속 빨라질 수 있다고 경고했다.</p>
          <p contents-hash="b7ddbb0ba03e3fc7c768ed291ff971562aa279b5f7d1a63755f4b4628d06b6fe" dmcf-pid="9GS8j2RfGQ" dmcf-ptype="general">그는 "이런 변화에 몇 달이 걸릴지, 몇 년이 걸릴지는 알 수 없지만, 시점이 불확실하다는 이유로 개발을 계속해도 되는 것은 아니다"라고 강조했다.</p>
          <h3 contents-hash="867869094f7de15512482df9780f9fa516ceb555b938e2de89ae96d171918387" dmcf-pid="2Hv6AVe4GP" dmcf-ptype="h3">"한 회사만 멈춰선 안 돼…한국도 준비할 수 있어"</h3>
          <div contents-hash="8f4e915ef23c9948cf5a7ff4c918dd595588b70a38a2256289c16d3067dc96ff" dmcf-pid="VXTPcfd8X6" dmcf-ptype="general">
            경쟁국과 경쟁사가 계속 개발하는데 중단이 가능하겠느냐는 질문에는 국제협약을 제시했다.
          </div>
          <p contents-hash="d72df9875a4eb0ac4b2f4cb69cde51fecd60b234ecf238180f6e0fd07f80fd4c" dmcf-pid="fZyQk4J6G8" dmcf-ptype="general">그는 "한 회사가 멈춘다고 중단되는 것은 아니다. 조약이 필요하다"고 말했다.</p>
          <p contents-hash="fe79b1dd05efed670df87050673be192a44acf0c61240b78edc0b64f013d5bb6" dmcf-pid="45WxE8iPX4" dmcf-ptype="general">MIRI도 활동의 무게중심을 옮겼다고 했다. 그는 "초지능의 위험성을 대중과 세계에 알리고, 조약이 어떤 모습이어야 할지 세부 내용을 마련하는 쪽으로 노력을 더 기울이고 있다"고 밝혔다.</p>
          <p contents-hash="11dbe2ee07fb95d6dc6307265edc5364236d29649dda0692e2792fc85c25af14" dmcf-pid="81YMD6nQ1f" dmcf-ptype="general">한국의 역할에 대해선 "초지능 개발 중단에 동참할 준비가 돼 있다는 입장을 밝혀야 한다"며 국제협약에 참여할 기반을 마련하라고 제안했다.</p>
          <p contents-hash="57d33e02fea44df8656f5671258e929ca55a53e6c95cac927e90ae1bcb010185" dmcf-pid="6tGRwPLxtV" dmcf-ptype="general">특히 한국이 고대역폭메모리(HBM) 등 AI 반도체 공급망에서 가진 영향력을 다른 국가들과의 협력에 활용해야 한다고 주장했다. 그는 메모리 반도체를 최대한 많이, 높은 가격에 판매하는 데만 집중하기보다 초지능 개발 중단을 위한 국제협약에 맞춰 수출을 통제할 준비도 할 수 있다고 제안했다.</p>
          <p contents-hash="011c88549f26114321e5b6dcedb6cc0825c82a5c87df8fd8d91037d170b480a5" dmcf-pid="PFHerQoMG2" dmcf-ptype="general">그는 "한 국가가 할 수 있는 일에는 한계가 있다"며 미국과 중국 모두에 국제협약 동참을 촉구했다. 그러면서 "AI 군비경쟁의 승자는 AI밖에 없다"고 경고했다.</p>
          <p contents-hash="88e459d6e121c8b2f5a073309099c5576b61a32b654c05ee8efc6750b9e44f16" dmcf-pid="Q7FohJcnG9" dmcf-ptype="general"><a href="https://www.newsis.com/?ref=chul" target="_blank">☞공감언론 뉴시스</a> odong85@newsis.com </p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기