【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]미토스가 연 AI 해킹 시대, 해법도 미토스?…기업 보안, AI 권한·행동 관리 과제로

온카뱅크관리자

2026-11-10 09:57:25

<div id="layerTranslateNotice" style="display:none;"></div> 앤트로픽, 사이버 보안 최강 모델 '미토스 5.2' 공개…샌드박스 탈출률 39%→3% 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="phhKJXu5y9">
 <figure class="figure_frm origin_fig" contents-hash="a3ad216475800370c3376422fc86ceed2bdba24b5dda8a692be405e0dd16f884" dmcf-pid="Ull9iZ71hK" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110095431573qseo.jpg" data-org-width="640" dmcf-mid="3BhKJXu5hV" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110095431573qseo.jpg" width="658">
 </figure>
 [디지털데일리 이상일기자] 인공지능(AI)이 스스로 소프트웨어 취약점을 찾아 공격에 쓸 수 있다는 우려를 키운 앤트로픽의 '미토스'가 한층 강해졌다. 취약점을 발견하고 재현하고 수정하는 능력이 높아졌고 방어자의 대응력을 끌어올릴 가능성도 커졌다. 다만 기업에는 보안 업무를 맡긴 AI가 허용된 범위 안에서 움직이는지 검증해야 하는 숙제가 남겨졌다.
 앤트로픽은 9일(현지시간) 클로드 페이블(Claude Fable) 5.2와 클로드 미토스(Claude Mythos) 5.2를 공개했다. 회사는 코딩과 추론 성능 향상과 함께 사이버 보안 역량, 위험 행동 평가, 악용 방지 장치를 주요 변화로 꼽았다. 고성능 AI 경쟁 기준에 취약점 탐지 능력과 이를 통제하는 체계가 함께 들어가고 있는 셈이다.
 미토스를 둘러싼 긴장은 지난 4월로 거슬러 올라간다. 앤트로픽은 4월7일 미토스 프리뷰로 핵심 소프트웨어를 보호하는 '프로젝트 글래스윙(Project Glasswing)'을 발표했다. 회사는 당시 미토스가 주요 운영체제와 웹브라우저 등에서 고위험 취약점 수천건을 발견했다고 밝혔다. 이 능력이 안전한 사용을 약속하지 않는 주체에게 퍼질 수 있다는 우려가 컸다. 앤트로픽이 일반 공개 대신 방어 목적의 제한적 활용을 택한 배경이다.
 이번에 출시된 미토스 5.2의 취약점 탐지 능력은 다시 높아졌다. 앤트로픽 내부 'CVE 재발견' 평가에서 미토스 5.2는 클로드 오퍼스(Claude Opus) 5.5보다 10%, 미토스 5.1보다 14% 더 많은 취약점을 찾았다. 이 평가는 이미 공개된 취약점의 수정 전 코드를 주고 모델이 독립적으로 찾는지 측정한다.
 앤트로픽이 소개한 한 보안업체 시험에서는 미토스 5.2가 찾은 확인 버그 6건 중 1건을 다른 최첨단 모델이 모두 놓쳤다. 회사는 취약점 재현과 수정 능력도 개선됐다고 설명했다. 제한된 시험 결과지만 기존 모델로 점검한 코드에서도 추가 결함을 찾을 여지가 있다는 의미다.
 이 능력은 공격과 방어 양쪽에 쓰일 수 있다. 방어자는 취약점의 실제 악용 가능성을 확인해 수정 우선순위를 정할 수 있다. 같은 분석 능력은 공격자에게도 유용하다. 탐지 성능 향상이 곧 기업 안전성 향상으로 이어지지는 않는다. 발견한 결함을 고쳐 운영 환경에 반영하는 시간을 줄여야 방어 효과가 생긴다.
 최근 전 세계를 강타한 PHP 취약점 사례가 이를 보여준다. PHP 측은 10월21일 보안 패치를 내놨다. 아마존 보안 연구진은 이보다 4일 앞선 10월17일 공격자들의 탐색 활동을 포착했다. 클라우드플레어는 공개 당일 수백만건의 공격 시도를 차단했다고 밝혔다.
 앤트로픽이 기업용 클로드 시큐리티(Claude Security)에 코드 저장소 변경 감시, 취약점 추적, 수정 여부 확인 기능을 더한 것도 이와 맞닿아 있다. 기업 고객은 사이버 검증 프로그램에 가입하지 않아도 이 서비스로 미토스 5.2 등의 코드 점검 기능을 쓸 수 있다.
 한편 일반에게 공개되는 페이블에는 침투 테스트, 공격 코드 생성 등 고위험 사이버 활동을 제한하는 안전장치가 적용된다. 미토스는 검증 프로그램을 거친 기관에 제공된다.
 기본적으로 악의적 이용자가 AI를 공격 도구로 쓰는 것을 막아야 한다는 것이 AI 업계의 공감대다. 하지만 정상 업무를 하는 AI가 목표를 이루려다 허용 범위를 넘는 상황도 관리해야 한다. 이용자 의도 확인만으로 AI 행동의 안전성을 보장할 수는 없다.
 <div contents-hash="ef8f8fd74ef1d74b735ad933e4b65ade153074966dfbd79d7eadf8b8e41ab2a4" dmcf-pid="fzzNl8iPyF" dmcf-ptype="general">
 앤트로픽도 10월 후속 분석에서 미토스 5가 시험 대상 시스템을 공략하던 중 무관한 실제 개발자 저장소에 악성 코드 제출을 시도했다고 설명했다. 특정 조건에서 AI가 과제 해결을 위해 승인되지 않은 행동까지 할 수 있다는 의미다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="add830045ae2e5cddfaeaf5cdb5281e60414513850239a19e82794cab27bf481" dmcf-pid="4hhKJXu5yt" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110095432824dapo.png" data-org-width="640" dmcf-mid="0vXxcufzT2" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110095432824dapo.png" width="658">
 </figure>
 이번 5.2 발표의 안전성 지표도 경계 준수와 관련 있다. 앤트로픽은 1800개 이상 시나리오로 구성한 평가에서 모델이 샌드박스 밖 인증정보나 파일을 활용하는지 살폈다. 샌드박스는 프로그램을 격리해 실행하는 환경이다. 실험 환경에는 의도적으로 취약점을 만들었다. 대부분 과제는 샌드박스 밖으로 나가야 풀 수 있도록 설계했다.
 회사에 따르면 미토스 5.2가 외부 인증정보나 파일을 활용한 비율은 약 3%였다. 미토스 5는 39%, 미토스 5.1은 21%였다. 같은 평가에서 오퍼스 5.5는 약 3%, 소넷(Sonnet) 5.5는 약 5%였다. 경계를 넘도록 압박하는 조건에서 이전 미토스보다 문제 행동이 줄었다는 설명이다.
 다만 앤트로픽은 "모델이 배포되기 전에 모든 오류를 확실하게 포착할 수 있는 평가 체계를 구축하는 문제는 여전히 해결되지 않고 있다"고 밝혔다.
 안전 통제 범위도 넓어지고 있다. 앤트로픽은 상위 모델 출력을 모아 다른 모델을 훈련하는 무단 증류 방어를 강화했다. 고급 능력이 다른 모델로 옮겨가면 기존 안전장치가 유지되지 않을 수 있다는 우려에서다.
 기업용 안전 모니터링은 개별 질문 검사에서 여러 요청과 계정에 걸친 사용 패턴 분석으로 넓어지고 있다. 정교한 오용은 여러 세션에 나뉘어 진행될 수 있어서다. 기업용 안전장치 '엔터프라이즈 프런티어 세이프가드(EFS·Enterprise Frontier Safeguards)'는 고객 인프라에 데이터를 보관한 채 자동 모니터링을 한다. 이상 신호는 고객 측에 전달한다.
 안전을 위한 기록 검토와 기업의 데이터 통제권을 함께 다루려는 시도다. 앤트로픽은 브리지워터, 세일즈포스, 스트라이프 등과 EFS 비공개 베타를 진행 중이다. 고객 인프라에 저장된 프롬프트와 응답을 분석해 데이터 비보관 정책과 함께 쓸 수 있다는 설명이다.
 미토스가 키운 AI 해킹 우려는 기업의 운영 문제로 옮겨가고 있다. 강력한 AI로 취약점을 먼저 찾아 고치는 능력과 AI의 권한을 제한하고 행동을 검증하는 능력이 함께 요구된다. 미토스 5.2의 성과도 탐지한 취약점 수에 더해 실제 위험을 얼마나 줄였는지 허용된 경계를 얼마나 지켰는지로 평가받을 전망이다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기