【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]오픈AI도 AI 개발 '속도조절'…첨단 모델 대형 훈련 보류

온카뱅크관리자

2026-09-27 18:07:25

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">사이버 고위험 능력 접근 판단…최신 모델 RL 훈련 2주 중단 <br>"전면 중단 아냐"…GPT-6 Astra 출시하며 안전장치 강화 병행</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="fGZk0toMZu">
          <figure class="figure_frm origin_fig" contents-hash="35287a7d0f4568471b3ba82f1b5f16fb06a130010e15fc6a8fd199bcca3372aa" dmcf-pid="4H5EpFgR5U" dmcf-ptype="figure">
           <p class="link_figure"><img alt="(샌프란시스코 로이터=뉴스1) 김범수 기자 = 15일(현지시간) 샘 올트먼 오픈AI 대표가 미국 캘리포니아주 샌프란시스코에서 열린 세일즈포스 연례행사 '드림포스 2026'에서 발언하고 있다. 2026.9.15  ⓒ 로이터=뉴스1  Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포,  AI학습 이용 금지. /사진=(샌프란시스코 로이터=뉴스1) 김범수 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/27/moneytoday/20260927180049068xdqu.jpg" data-org-width="1200" dmcf-mid="VzxFieGhZ7" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/27/moneytoday/20260927180049068xdqu.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            (샌프란시스코 로이터=뉴스1) 김범수 기자 = 15일(현지시간) 샘 올트먼 오픈AI 대표가 미국 캘리포니아주 샌프란시스코에서 열린 세일즈포스 연례행사 '드림포스 2026'에서 발언하고 있다. 2026.9.15 ⓒ 로이터=뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지. /사진=(샌프란시스코 로이터=뉴스1) 김범수 기자
           </figcaption>
          </figure>
          <p contents-hash="a19da0e9a821778dac08a9f091f34dc944e260ebdba8a377848834764e807390" dmcf-pid="8X1DU3aeZp" dmcf-ptype="general">오픈AI가 첨단 AI 모델 개발에 속도조절을 걸었다. 더 강력한 모델이 사이버 공격에 활용될 수 있는 수준에 가까워졌다는 판단에 따라, 일부 최전선 모델 훈련을 멈추고 안전장치 보강에 들어갔다. 다만 AI 모델 개발을 전면 중단한 것은 아니다. 오픈AI는 이달 GPT-6 Astra(아스트라)를 공개하고, GPT-6 Sol·Luna(솔·루나)까지 제품군을 확장했다. 성능 경쟁은 이어가되, 고위험 능력을 갖춘 모델의 훈련과 배포는 더 엄격하게 관리하겠다는 의미다.</p>
          <p contents-hash="bd402aa99a71925f5b8722b424126ad15e6ecffd8f3030a7d656cbe46d934287" dmcf-pid="6TYN1XJ6Y0" dmcf-ptype="general">오픈AI는 최근 공식 홈페이지에서 "모델의 능력이 커질수록 내부 개발과 시험 과정의 위험도 커진다"며 "감시, 정렬, 보안 기준이 이런 위험보다 앞서 있어야 한다"고 밝혔다. 이에 따라 최신 배포 예정 모델의 강화학습(RL) 훈련을 2주간 중단했고, 가장 큰 규모로 계획했던 프런티어 RL 훈련은 여전히 보류 중이라고 설명했다. </p>
          <p contents-hash="6e852b59d2e9d726e3ea5b313f10f2f040d707aa22d32f3f2c1e79c061e35c93" dmcf-pid="PyGjtZiPX3" dmcf-ptype="general">계기는 두 가지다. 하나는 오픈AI와 허깅페이스 관련 보안 사고다. 다른 하나는 오픈AI의 차기 모델 중 하나인 Astra가 자체 준비 프레임워크상 '중대한 사이버 보안 능력' 기준에 도달할 수 있다는 예비 신호다. 오픈AI는 이 두 사건이 맞물리면서 훈련 전 과정에서 감시, 정렬, 격리 장치를 강화할 필요가 커졌다고 밝혔다. </p>
          <p contents-hash="259df2c51eece4960ec3b0e818a4ed6ca4b4f5011650f7e83869399e1c3a7874" dmcf-pid="QWHAF5nQ1F" dmcf-ptype="general">오픈AI가 멈춘 것은 위험도가 큰 훈련이다. 대형 RL 훈련을 보류하는 대신, 소규모 훈련과 평가를 계속 진행하고 있다. 모델 행동을 평가하고, 안전장치가 제대로 작동하는지 검증하고, 정렬 증거를 더 확보한 뒤 대형 훈련을 재개하겠다는 방식이다. </p>
          <p contents-hash="591aa32cd7f7a371541f9bba970f6fe2adf1afa5e359f14f349d6079a8cd7114" dmcf-pid="xYXc31Lx1t" dmcf-ptype="general">연구 환경 보안도 강화했다. 오픈AI는 모델이 생성한 코드나 신뢰하기 어려운 코드를 실행하는 작업에 대해 더 강한 샌드박스 격리를 요구하고, 고위험 작업이 인터넷이나 내부망에 무단 접근하지 못하도록 네트워크 격리 조치를 확대했다. Astra 또는 사이버 관련 모델 작업에는 가장 엄격한 보안 기준을 적용하고 있다고 밝혔다. 일부 Astra 훈련과 평가는 이 기준을 충족했지만, 상당수 작업은 새 기준에 맞게 이전·개선될 때까지 보류 중이다. </p>
          <p contents-hash="04aba0335533ebfa1b937343ebefd45b2f4ac1ce8701d9d92fb90184b88277dc" dmcf-pid="yRJuaL1yt1" dmcf-ptype="general">모니터링도 촘촘해졌다. 오픈AI는 고성능 모델의 강화학습과 도구 사용 평가 과정에서 비정상 행위, 무단 접근, 데이터 탈취, 보안 우회 시도를 감지하는 시스템을 확대했다. 중대한 보안 경계 위반 가능성이 감지되면 안전·보안·연구팀에 최고 우선순위 경보가 전달되고, 30분 안에 오탐으로 확인되지 않으면 해당 활동을 중단하도록 했다.</p>
          <p contents-hash="78fdd21a37328c9fe13c7de413652f2b7d2b0964afbb78c60d2c4067e694d0eb" dmcf-pid="Wei7NotWt5" dmcf-ptype="general">다만 이번 조치를 "오픈AI가 첨단 AI 개발을 중단했다"고 보기는 어렵다. 오픈AI는 9월 GPT-6 Astra를 공개하며 이를 자사 모델 중 가장 지능적이고 정렬 수준이 높은 모델이라고 소개했다. Astra는 컴퓨터 사용, 브라우징, 소프트웨어 엔지니어링, 사이버 보안, 과학, 전문 업무에서 최첨단 성능을 낸다고 밝혔다. </p>
          <p contents-hash="e692c06b70bd936f5b6a60d78d82594a374746ea37205a309fcd5e3e9aa8bccb" dmcf-pid="YdnzjgFY5Z" dmcf-ptype="general">김평화 기자 peace@mt.co.kr<br><a href="https://www.mt.co.kr/?utm_source=daum&amp;utm_medium=article_text_ad&amp;utm_campaign=mystocksolution" target="_blank">[내 주식이 궁금할땐 머니투데이]</a></p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 머니투데이 &amp; mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기