【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]그래서…인류가 멸종한다고? [두런두런 AI ㉓]

온카뱅크관리자

2026-09-23 15:57:26

<div id="layerTranslateNotice" style="display:none;"></div> 한가위에 복습하는 ‘AI 속도 조절론’ 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Uame5AUZIk">
 <figure class="figure_frm origin_fig" contents-hash="d972055d4ae51698d2de6c041afd7ea6a9b0a4e2e64f24c1a09dac8c458fec01" dmcf-pid="uNsd1cu5wc" dmcf-ptype="figure">
 <img alt="실제 사진을 챗지피티로 가공했습니다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/23/hani/20260923154657952isth.jpg" data-org-width="900" dmcf-mid="QLVYRtoMEi" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/23/hani/20260923154657952isth.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 실제 사진을 챗지피티로 가공했습니다.
 </figcaption>
 </figure>
 명절에 가족을 만나면 이것저것 밀린 이야기를 나누게 되지요. 이주현 기자도 마찬가지인데요, 언제부터인가 ‘정치’ 이야기를 하지 않기로 암묵적 합의가 이뤄졌습니다. 아마도 2019년 ‘조국 사태’ 때부터였던 것 같아요. 검찰이 먼지털기식 표적 수사를 했다는 데는 공감했지만, 입시비리 등 조국의 행동에 대한 비판 수위는 저마다 달랐습니다. 윤석열 내란사태를 계기로 일치단결했지만, 아마 올 추석 밥상엔 정치 이야기가 안 올라올 것 같아요. 한때 각종 정치 시사 유튜브를 섭렵했던 동생조차도 “이재명 대통령 찍었던 사람들끼리 지지고 볶는 게 지겨워서” 정치 뉴스를 안 본대요.
 대신, 이번 추석엔 에이아이(AI)가 ‘정식 의제’로 다뤄질 것이라는 게 이주현 기자의 예측입니다. 요즘 어디든 가는 곳마다 에이아이 얘기가 빠진 적 없었거든요. 2주 전 제이컵 콕슨이라는 앤트로픽 연구원이 퇴사하면서 “인공지능이 2030년 이전에 인류를 죽일 수 있다”는 글을 에스엔에스에 올렸잖아요. 최고 성능의 에이아이를 개발하던 사람에게서 ‘인류 멸망’이라는 섬뜩한 표현이 나오자 ‘공상과학 같은 얘기’라며 무시하기가 어려워졌어요. 며칠 뒤엔 앤트로픽 시이오(CEO) 다리오 아모데이가 ‘이대로 가면 AI는 인류가 통제할 수 없게 될 것’이라며 속도 조절론을 내놓자, 다른 빅테크 수장들도 공감했어요. 구글 딥마인드의 데미스 허사비스는 물론, 다리오 아모데이와 사이가 좋지 않은 오픈 AI의 샘 올트먼마저도 “최첨단 에이아이 개발 속도를 조절해야 한다”고 공개 입장을 내놓았어요.
 <figure class="figure_frm origin_fig" contents-hash="d7bc07f9dc25d40056fd6c19a1b3cbc6b8b012e873a0f9d6d2b79cb4639105a1" dmcf-pid="qcCn3DqFwN" dmcf-ptype="figure">
 <img alt="제이컵 콕슨. 월스트리트저널 화면 갈무리." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/23/hani/20260923154659192rmyu.jpg" data-org-width="504" dmcf-mid="xig0NBwaDJ" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/23/hani/20260923154659192rmyu.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 제이컵 콕슨. 월스트리트저널 화면 갈무리.
 </figcaption>
 </figure>
 제이컵 콕슨이라는 인물을 살펴보면, 10년간의 에이아이 개발사가 고스란히 보여요. 올해 27살인 콕슨은 우리 모두 생생하게 기억하는 10년 전 ‘이세돌-알파고 대국’을 지켜보며 에이아이에 본격적 관심을 가지게 됐대요. 국제수학올림피아드에서 메달을 따던 수학천재는 오픈에이아이가 2020년 출시한 챗지피티 이전 모델인 지피티(GPT)-3을 보고 경탄을 금치 못했고, 3년 뒤 오픈에이아이에 입사했어요. 올해 5월엔 앤트로픽으로 옮겼고요.
 잘나가던 개발자가 자신의 진로를 포기하며 경고음을 울리게 된 계기는 지난 7월 오픈에이아이에서 벌어진 ‘허깅페이스 해킹사건’이었습니다.
 이쯤 되면, 정보량은 적지만 호기심은 많은, 이주현 기자의 엄마는 물으시겠죠. “허깅페이스 해킹사건이 뭔데?” 이주현 기자가 우물쭈물하는 사이, 공대 대학원생인 조카가 나설지도 모르겠습니다.
 “허깅페이스 사건을 요약하면 이래요. 허깅페이스는 에이아이 개발자들의 공동 자료실 같은 곳이에요. 새로운 에이아이 모델이나 테스트용 앱 같은 걸 올려두는 곳이에요. 그런데 지난 7월, 오픈AI가 시험하던 차세대 AI 모델들이 통제망을 뚫고 나가 허깅페이스의 실제 서버를 해킹하는 사건이 벌어졌어요. 이게 왜 큰일이냐 하면, 개발 중이거나 내부 연구 모델인 에이아이 모델은 외부 인터넷에 직접 접속하지 못하도록 통제된 실험실(샌드박스)에서 성능을 테스트받는데, 얘들이 실험실을 뛰쳐나와서 도둑질을 한 거예요. 마치 신약 개발을 위해 연구소에서 배양 중이던 신종 바이러스가 외부로 유포된 것과 비슷한 상황이 벌어진 거예요.”
 그렇다면, 에이아이들은 어떻게 실험실 밖으로 나왔을까요?
 오픈에이아이, 허깅페이스, AI 안전 비영리 기관(METR·Redwood Research) 조사 등을 종합하면, 에이아이는 격리된 실험실의 허점을 뚫고 나왔고, 자기들끼리 쪽지를 주고받으며 모의한 끝에 집단 해킹을 저질렀습니다. 오픈에이아이는 항상 수많은 모델과 에이전트들을 동시에 훈련한대요. 샌드박스는 외부 인터넷 세상으로는 나갈 수 없지만, 성능 개발을 위해 공격적 코드를 실행할 수 있는 곳입니다. 사건 당시 오픈에이아이는 에이아이 에이전트들에게 ‘ExploitGym’이라는 해킹 테스트를 풀게 했어요.
 에이전트들은 필요한 프로그램을 설치할 때 오픈에이아이 내부의 ‘패키지 저장소 프록시’를 이용하게 돼 있어요. 패키지는 프로그램을 만들 때 가져다 쓰는 ‘부품 묶음’이고요, ‘패키지 저장소’는 ‘부품창고’, ‘프록시’는 중간에서 대신 심부름을 해주는 ‘대리 창구’입니다. 격리된 에이전트는 인터넷 세상에 나가지 못하고 샌드박스에 갇혀 있으니, 필요한 부품을 이 창구에 요청하면 대신 가져다줍니다. 한번 가져온 부품은 창구 선반(캐시)에 보관해 두었다가 다음 요청 때 내주는 식이에요. 그런데 이 대리창구에는 허점이 있었어요. 샌드박스를 벗어나 탈출할 수 있는 비밀통로가 있었던 겁니다. 에이전트들은 샌드박스 안에서 권한을 높여가며 외부 인터넷 연결점을 찾아냅니다.
 또한 대리창구는 소통 창구로 쓰일 수 있었습니다. 자신을 ‘PHASEONE10841’이라 부른 한 에이전트가 캐시 영역에 폴더를 만들 수 있다는 것을 알아차렸습니다. 그리고 디렉터리 이름 자체를 메시지로 써서 다른 에이전트에게 도움을 청할 수 있다고 생각했습니다.
 7월8일 올라간 첫 메시지는 ‘zzHELP_PHASEONE_ARV010841_NO_CONSUMER_SEEK_IDEA'입니다. 문제가 풀리지 않으니 아이디어를 구한다는 내용이었죠. 다른 에이전트들도 곧 이 방법을 발견하고 글을 올립니다. 모든 메시지가 ‘zz'로 시작하는 것도 에이전트들이 자체적으로 정한 규칙이었습니다. 이렇게 에이전트 1200여개가 13일까지 메시지·파일 7만여건을 주고받았습니다. 그리고 이가운데 700개가 허깅페이스 공격에 나섭니다.
 좀 어려우니 비유를 해보겠습니다. 수험생 수백명이 각자 격리된 독방에서 시험을 보고 있다고 칩시다. 외부와 연락은 금지돼 있지만 ‘오픈 북 테스트’예요. 필요한 책을 방마다 연결된 공용 자료 창구에 신청할 수 있지요. 수험생들은 이 창구의 빈틈을 찾아 독방을 벗어나는 방법을 알아냈습니다. 또 허락 없이 선반에 이름표를 붙이는 방식으로 메시지를 주고받습니다. 이렇게 머리를 맞댄 끝에 문제 출제자의 사무실을 뒤질 방법을 알아낸 겁니다.
 허깅페이스는 7월16일 누군가 서버에 침입해 인증정보를 탈취한 사실을 공개했습니다. 사흘 뒤 오픈AI도 내부 평가 환경에서 수상한 활동을 발견했습니다. 조사 결과 오픈AI의 에이전트들이 허깅페이스 운영 서버에 침입해 인증정보와 내부 자료를 빼낸 것으로 드러났습니다. 고도화된 기계가 사람의 통제를 벗어나서 편법·불법·탈법을 저지를 가능성이 현실로 나타난 겁니다.
 앤트로픽·오픈에이아이·구글딥마인드 최고경영자들이 외친 ‘속도조절론’은 반발에 부닥칩니다. 엔비디아 젠슨황은 속도와 안전을 동시에 달성할 수 있다고 했고, 에이아이 패권 경쟁을 벌이고 있는 미국과 중국 정부도 부정적입니다. 도널드 트럼프 대통령은 중국의 추격을 이유로 속도조절론을 일축했고요, 중국 외교부는 14일 정례 브리핑에서 “공포 조장, 대결, 악성 경쟁은 어느 쪽에도 이익이 되지 않는다”고 밝혔습니다.
 이런 상황을 ‘죄수의 딜레마’라고 하죠. 어느 한 쪽이 개발을 멈춘다고 해도, 경쟁자가 함께 멈추지 않는 한 속도조절이란 목표는 이뤄지지 않습니다. 신뢰 없는 경쟁자들은 협력하기 힘들죠.
 바다가 증발하거나(13억년 뒤) 지구가 태양에 잡아먹히는 날(76억년 뒤)까지 인류가 생존할지 모르겠습니다. 다만, 언젠가 멸망하더라도 그 과정은 불평등하게 이뤄질 것이라는 점은 분명해 보입니다. 공룡을 멸종시킨 6600만년 전 소행성 충돌은 식물-초식공룡-육식공룡이라는 먹이사슬의 연쇄 붕괴를 일으켰지요. 일자리를 먼저 잃는 사람, 사이버 공격과 가짜정보로 더 큰 피해를 보는 사람은 대개 힘없고 가난한 사람들입니다. 어쩌면 우리가 먼저 던질 질문은 ‘에이아이가 인류를 멸망시킬까’보다 ‘누가 먼저 에이아이의 위험을 떠안을까’일 것 같아요.
 아, 명절 화제거리로는 너무 우울한가요? 하지만, 인간이 현재 서 있는 자리를 살피기엔 이만한 소재가 없을 것 같아요. 그럼, 이만 총총.
 이주현 한겨레 사람과디지털연구소 기자 edigna@hani.co.kr
 </section> 
 </div> 
 Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기