【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]올트먼 “AI 개발 속도 늦추고 통제 상실·권력 집중 막아야”

온카뱅크관리자

2026-09-14 15:07:25

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">“멈추자는 것 아냐. 안전장치가 능력 발전 앞서야”<br>AI에 미래 통제권 넘기는 것은 용납할 수 없어<br>한 사람·기업에 강력한 AI 집중돼도 디스토피아<br>美 정부엔 국제 공조 주문…업계 자율 안전기준 강조</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="ygMUBMV7hY">
          <figure class="figure_frm origin_fig" contents-hash="67b910b1c8751f9a0c69844c9b010ca29fa0d08aec062149d5f7875954da66f7" dmcf-pid="WaRubRfzCW" dmcf-ptype="figure">
           <p class="link_figure"><img alt="샘 올트먼 오픈AI CEO가 13일(현지시간) 자신의 X에 “인공지능(AI) 개발 속도를 지금보다 늦출 필요가 있다”며 “AI 발전 과정에서 ‘인류의 통제권 상실’과 ‘권력 집중’이라는 두 가지 위험을 피해야 한다”고 적었다. [사진=샘 올트먼 X 캡처]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/mk/20260914150305966udmd.png" data-org-width="590" dmcf-mid="xEVZ3V71hG" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/mk/20260914150305966udmd.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            샘 올트먼 오픈AI CEO가 13일(현지시간) 자신의 X에 “인공지능(AI) 개발 속도를 지금보다 늦출 필요가 있다”며 “AI 발전 과정에서 ‘인류의 통제권 상실’과 ‘권력 집중’이라는 두 가지 위험을 피해야 한다”고 적었다. [사진=샘 올트먼 X 캡처]
           </figcaption>
          </figure>
          <div contents-hash="dd188ed034f3e23addf7a2b391cb8c51eb2a9e1aa06cc136090f15aeba034886" dmcf-pid="YNe7Ke4qWy" dmcf-ptype="general">
           샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI) 개발 속도를 지금보다 늦출 필요가 있다며 AI 발전 과정에서 ‘인류의 통제권 상실’과 ‘권력 집중’이라는 두 가지 위험을 피해야 한다고 경고했다. 미국이 중국과 AI 주도권 경쟁을 벌이고 있지만 경쟁을 이유로 안전장치보다 AI 능력이 앞서도록 해서는 안 된다는 주장이다.
          </div>
          <p contents-hash="4d6abc71c516357ec77665d20810edd79189575adc3c0e34747e0ba5d0be4c7d" dmcf-pid="GSwMiwaehT" dmcf-ptype="general">올트먼 CEO는 13일(현지시간) 소셜미디어 X에 올린 글에서 “AI 발전이 매우 잘못될 수 있는 두 가지 길이 있으며 우리는 이를 피해야 한다”고 밝혔다. 첫 번째 위험으로는 인간이 AI에 미래에 대한 통제권을 빼앗기는 상황을 꼽았다. 그는 “이는 용납할 수 없다”며 “우리는 거리낌 없이 ‘팀 인류(Team Humanity)’이고 AI는 항상 사람을 위해 봉사해야 한다”고 강조했다. 이어 이를 위해 AI 모델의 능력이 발전하는 속도보다 AI가 인간의 의도에 맞게 움직이도록 하는 기술과 안전 기술이 앞서도록 해야 한다고 설명했다.</p>
          <p contents-hash="b79134669809fd1f98b53a0a55ce1463596a81da8f568d2903be4c403c1b2ddf" dmcf-pid="HvrRnrNdWv" dmcf-ptype="general">두 번째 위험은 소수에게 AI 권력이 지나치게 집중되는 것이다. 올트먼 CEO는 “엄청나게 강력한 AI가 한 사람이나 한 기업에 의해 자신의 세계관을 다른 모든 사람에게 강요하는 데 사용된다면 그 결과는 극도로 디스토피아적일 수 있다”고 했다. AI를 통제하는 주체가 국가든 기업이든 지나치게 강력해지는 상황을 경계해야 한다는 의미다. 그는 “이 두 위협을 피하려면 좁은 중간 길을 걸어야 한다”며 한 국가나 한 AI 연구소가 과도한 힘을 갖게 되는 상황을 사례로 들었다.</p>
          <p contents-hash="46ba27de79cb6a0b7d041d008f5a5c13634d496bcc54067fd438a23e04db42a9" dmcf-pid="XTmeLmjJvS" dmcf-ptype="general">올트먼 CEO는 별도의 글에서 AI 개발의 ‘속도 조절’도 공개적으로 주장했다. 그는 “우리가 속도 조절이라고 말할 때 ‘멈추는 것’을 뜻하지 않는다”며 “발전은 빠르게 이뤄져 왔고 앞으로도 그럴 것이지만 아무런 개입이 없을 때보다는 느려져야 한다”고 밝혔다.</p>
          <p contents-hash="184d0681c4116a11a8f01200421f2162e97a86d13e8efe0d202fce125f0e3494" dmcf-pid="ZysdosAivl" dmcf-ptype="general">특히 미국의 AI 경쟁 압박이 무리한 개발의 명분이 돼서는 안 된다고 강조했다. 올트먼 CEO는 “어떤 미국의 경쟁 압력도 무모함을 정당화하거나 AI 능력이 정렬과 모니터링을 앞서도록 해서는 안 된다”고 했다. AI 경쟁에서 뒤처질 수 있다는 우려가 있더라도 안전성을 확인하는 데 필요한 시간과 비용을 감수해야 한다는 것이다.</p>
          <p contents-hash="279b9c7247238951b2e6a14a77623cd9c32feca1a4478e81e09d4970a7a6692d" dmcf-pid="5WOJgOcnyh" dmcf-ptype="general">오픈AI는 이를 위해 기존 모델 출시 단계에 집중됐던 안전체계를 개발 과정으로 앞당기고 있다고 설명했다. 과거 오픈AI 등 AI 기업들이 마련한 ‘준비 프레임워크’ 등은 완성된 모델을 실제 서비스에 내놓을 때 발생할 위험을 주로 평가했다. 하지만 AI 능력이 빠르게 높아지면서 개발 중인 모델 자체의 위험을 사전에 점검해야 할 필요성이 커졌다는 것이다.</p>
          <p contents-hash="8620433e69f606caa2e90403a38ada541df4d068407c5964ebed8c33fd948cd3" dmcf-pid="1YIiaIkLWC" dmcf-ptype="general">올트먼 CEO는 오픈AI가 성능을 크게 높일 것으로 예상되는 최첨단 AI의 강화학습을 시작하기 전에 ‘안전성 논거’를 명시적으로 작성하고 있다고 밝혔다. 강화학습은 AI가 시행착오를 거치며 더 좋은 답이나 행동을 찾아가도록 훈련하는 방식이다. 안전성 논거는 이런 대규모 훈련을 진행해도 위험을 관리할 수 있다는 근거와 조건을 사전에 따져보는 절차다.</p>
          <p contents-hash="a5315db3fed0bb292f9dc9498c5fc95da8da0bafb0a999faa6be236af3036b5d" dmcf-pid="tGCnNCEoWI" dmcf-ptype="general">그는 업계 전체가 AI의 잘못된 행동, 모니터링, 안전성에 대한 공통 기준을 마련해야 한다고도 주장했다. 독립적인 외부 감사기관이 AI 기업의 안전조치를 검증하는 방안에도 긍정적인 입장을 나타냈다. 연방정부가 최첨단 AI 기업에 일관된 안전 요건을 적용하는 제도 역시 환영한다고 밝혔다.</p>
          <p contents-hash="dd9823906cb2a300ddde7f67ad81508db2ca3c05f58324ebabfd66488ed9c4b9" dmcf-pid="FHhLjhDgvO" dmcf-ptype="general">다만 정부 규제나 기업 간 협력을 허용하는 별도의 독점금지법 예외가 마련될 때까지 기다릴 필요는 없다고 선을 그었다. AI 기업들이 먼저 자체적으로 안전 기준을 높이고 서로의 방법을 공유해야 한다는 것이다. 그는 “우선 우리가 스스로 할 수 있는 일을 해야 한다”며 정부가 필요한 영역으로는 국가 간 AI 안전 기준을 조율하는 국제 공조를 꼽았다.</p>
          <p contents-hash="822ebb2536cf03358f5cc2fb6c2b5a38bb70d14fd27ba13071597d4df92eddd2" dmcf-pid="3XloAlwaTs" dmcf-ptype="general">최근 AI 업계에서는 최첨단 AI의 능력이 예상보다 빠르게 높아지면서 개발 속도를 조절해야 한다는 목소리가 잇따르고 있다. 앤트로픽과 오픈AI에서 일했던 제이컵 콕슨 연구원은 회사를 떠나며 AI가 인류에 심각한 위협이 될 수 있다고 경고했고, 다리오 아모데이 앤트로픽 CEO도 AI 개발 속도를 늦출 필요가 있다고 주장했다. 여기에 올트먼 CEO까지 ‘경쟁을 이유로 안전을 희생해서는 안 된다’고 가세하면서 AI 주도권 경쟁에 속도 조절이 필요한지를 둘러싼 논쟁이 확산하고 있다. [실리콘밸리 원호섭 특파원]</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기