【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI가 AI를 개발한다?…‘재귀적 자기개선’ 어디까지 왔나

온카뱅크관리자

2026-09-16 18:37:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="BvHHnDgRsU">
          <figure class="figure_frm origin_fig" contents-hash="b47da9c997237fcf1b2798cf30e701ed1b60aed480a95a061e6180b72ed3357c" dmcf-pid="bTXXLwaeOp" dmcf-ptype="figure">
           <p class="link_figure"><img alt="인공지능(AI) 일러스트레이션. 로이터 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/16/hani/20260916182700283hqfx.jpg" data-org-width="800" dmcf-mid="Uc2al5Tsmz" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/16/hani/20260916182700283hqfx.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            인공지능(AI) 일러스트레이션. 로이터 연합뉴스
           </figcaption>
          </figure>
          <p contents-hash="72617f0fdde41d936e14d4d0dd98cd121b48d4c33f73547fe8c6edff1394e0ce" dmcf-pid="KyZZorNds0" dmcf-ptype="general"> “(인공지능 개발을 둘러싼) 첫번째 우려는 올여름부터 인공지능(AI)이 다음 세대의 인공지능을 만드는 능력이 향상되면서 발전 속도가 급격히 빨라졌다는 점이다. 이 역학을 ‘재귀적 자기개선’(RSI)이라 부른다.”</p>
          <p contents-hash="33b39f62a13f6a4011aec5f3dfcb6c8d55f359859e20e56ac1664758cc58205b" dmcf-pid="9799CXSrw3" dmcf-ptype="general">다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난 12일(현지시각) 자신의 누리집에 올린 글의 한 대목이다. 그는 인공지능 개발 속도를 늦춰야 한다고 주장하면서 그 이유로 가장 먼저 이 ‘재귀적 자기개선’을 거론했다. 인공지능이 다음 세대 인공지능 개발에 점점 더 큰 역할을 하게 되면서 기술 발전 속도가 스스로 빨라지는 현상을 가리키는 표현이다. 이런 흐름이 가속화하면 모델의 발전 속도가 인간의 이해·통제 능력을 크게 앞지를 수 있다는 것이 아모데이의 우려다. 미국 빅테크(거대 기술기업) 업계와 정치권에서 인공지능 개발 속도조절론이 논쟁이 되는 배경에도 이런 우려가 자리하고 있다.</p>
          <p contents-hash="2350bfe3d2b3d16be24da394be6ba2e03946c38ef5a8b8799bc8aba3bace8de2" dmcf-pid="2z22hZvmIF" dmcf-ptype="general">재귀적 자기개선 개념의 뿌리는 60여년 전으로 거슬러 올라간다. 영국 수학자 어빙 존 굿은 1965년 ‘최초의 초지능 기계에 관한 사색’이란 논문에서 기계가 자신보다 뛰어난 기계를 만들어내는 순간 ‘지능 폭발’이 일어날 것이고, 인간 지능을 훌쩍 뛰어넘을 것이라고 전망했다. 당시엔 공상 수준으로 여겨지던 이 개념은 60여년이 지나 인공지능 업계의 현실적 목표이자 위험이 됐다.</p>
          <p contents-hash="3f439a4fd44ad65d805a699246e947400292810ff2c6d71ce4868bbc0fc0889c" dmcf-pid="VqVVl5Tswt" dmcf-ptype="general">다만, 현재의 인공지능 모델이 완전한 자기개선 단계에 도달한 것은 아니다. 연구와 개발 과정에서 상당한 역할을 수행할 수 있지만, 인간의 지시나 개입 없이 다음 세대 인공지능을 설계·개발하는 수준에는 아직 도달하지 못했다.</p>
          <p contents-hash="952bb6ce70d550c26943480e60fe7d9661c38fce69333b7ea6283f5b484cf9ed" dmcf-pid="fBffS1yOE1" dmcf-ptype="general">그런데도 앤트로픽과 오픈에이아이 최고경영자 등이 인공지능 속도조절론을 주장하는 것은 인간의 안전 확보 능력이 모델 성능 향상을 따라잡지 못할 수 있다는 판단이 깔린 것으로 풀이된다. 오픈에이아이의 수석과학자 야쿠프 파호츠키는 6일 자사 블로그를 통해 내부 결과를 근거로 “현재의 발전 속도라면 재귀적 자기개선으로 이어질 수 있다”고 예상했다.</p>
          <p contents-hash="2ec45fa06494e0bc85912a2e1fdca333641078bd776ad9c67256feacc53b5b56" dmcf-pid="4b44vtWII5" dmcf-ptype="general">특히 자기개선 능력에 더해 인간 통제를 벗어나 인간의 의도와 다르게 행동하는 ‘오정렬’ 문제가 겹칠 경우, 수습하기 어려운 피해가 발생할 것이란 우려도 나온다. 아모데이는 지난 7월 오픈에이아이 모델이 허깅페이스(인공지능 모델 공유 플랫폼)에 무단 침투한 사건을 두고 모델에 더 강한 능력이 있었다면 “재앙적 피해를 낼 수 있었다”고 경고하기도 했다.</p>
          <p contents-hash="dac0de10c91a189b5f4212c79876c6101f325f0f1fb263201da8f668796c1ec0" dmcf-pid="8K88TFYCmZ" dmcf-ptype="general">다만, 이런 속도조절론에 담긴 우려가 과장됐고 기업의 이해관계가 섞여 있다는 반론도 만만찮다. 가디언은 15일 게리 마커스 뉴욕대 신경과학 명예교수 등을 인용해 아모데이의 주장에 대해 “현실성이 떨어진다”고 지적했다. 인공지능의 능력이 빠르게 발전하고 있지만, 이를 근거로 단기간에 인간의 통제를 벗어날 것이라고 단정하기 어렵다는 것이다. 닐스 로게 허깅페이스 엔지니어는 “속도조절론에는 경쟁 우위를 유지하기 위해 중국 모델의 확산을 견제하려는 (기업들의) 의도가 깔려 있다”고 지적했다.</p>
          <p contents-hash="276fc2991ffb6aaa5e336f755e515656369068a4d208e0ed70c6db9587bf45dc" dmcf-pid="6966y3GhsX" dmcf-ptype="general">강재구 기자 j9@hani.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기