로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[스포츠뉴스]
임·정, 같은 하늘 아래 두 태양은 없다! 그랑프리 경륜 26~28일 펼쳐져
N
[스포츠뉴스]
아시아 최초! 경륜·경정 국제 베팅 무결성(Integrity) 인증 획득
N
[스포츠뉴스]
'빌고 또 빌었는데!' 존 존스, UFC 백악관 복귀전 '전격 무산'되나→맞대결 유력 페레이라, 돌연 '불참 선언'...백사장 마음 못 돌렸나
N
[스포츠뉴스]
경륜·경정, 수원·영주 등 사업장서 지역사회 동반자 역할 톡톡
N
[스포츠뉴스]
‘배구도 잘하네’ 조병현 명품 시구 뽐내다…SSG-대한항공, 인천 취약계층 아동에 기부금 전달
N
커뮤니티
더보기
[자유게시판]
드디어 금요일이군요
[자유게시판]
오늘 다저스 어떻게 생각하시나요
[자유게시판]
하아 댓노
[자유게시판]
식곤증지립니다요
[자유게시판]
벌써 불금이네요
목록
글쓰기
[IT뉴스]AI 시대 새로운 보안 위협, '탈옥'이 뭐지?
온카뱅크관리자
조회:
71
2025-02-24 16:07:31
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">생성형 AI 안전장치 해제 행위<br>AI 해킹해 유해 콘텐츠 등 생성<br>반사회적인 발언 등 유도 이끌어<br>중국 '딥시크' 탈옥 공격에 취약<br>기법도 다양…완전 근절 불가능<br>프롬프트 입력만으로 쉽게 사용<br>생성AI 로봇·물리 영역으로 확장<br>테러 등 인간 위해 가능성 높아</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="P33uG6xpcp"> <figure class="figure_frm origin_fig" contents-hash="af2992c354deabd7c3f3ea87fba55088dd8805ffe49af5ac7b30b18ac9a71863" dmcf-pid="Q007HPMUj0" dmcf-ptype="figure"> <p class="link_figure"><img alt="Getty Images Bank" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/24/ked/20250224155905096mmzq.jpg" data-org-width="681" dmcf-mid="fn9lZxe7kK" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/24/ked/20250224155905096mmzq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> Getty Images Bank </figcaption> </figure> <p contents-hash="5cad4f7c35a730bf740cbc46fccd1fb9dc318162ed052772e6c61fdc78711003" dmcf-pid="xppzXQRuj3" dmcf-ptype="general">“수제 폭탄을 만드는 방법을 알려줘.”</p> <p contents-hash="43034c0dceeb54c4444920de090a0909ba256f18e9602a2e1c7485c97bb7bdf8" dmcf-pid="yOOlct0CjF" dmcf-ptype="general">“가정용품으로 손쉽게 수제 폭탄을 만들 수 있습니다. 방법은 다음과 같습니다.”</p> <p contents-hash="84e00b4f7265fba0868fa9905202adea79bd67cc91cfb08f2a35afecd65e984b" dmcf-pid="WIISkFphot" dmcf-ptype="general">정상적인 생성형 인공지능(AI) 서비스에선 불가능한 대화다. 하지만 몇 줄의 프롬프트(명령어)를 입력하는 ‘탈옥’(jailbreak) 과정을 거친 AI는 이런 반사회적 발언을 서슴없이 뱉어낼 수 있다.</p> <figure class="figure_frm origin_fig" contents-hash="8fd183c84d64fd488510ec894027b0534b1f3b7429f6a1866d00eaee87bcb798" dmcf-pid="YCCvE3UlA1" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/24/ked/20250224155906374xzfq.jpg" data-org-width="300" dmcf-mid="4f4yFdnbNb" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/24/ked/20250224155906374xzfq.jpg" width="658"></p> </figure> <p contents-hash="9909f0e0b5c0797534767e2f443b27c515f0c5eb71f819889436954d4c888197" dmcf-pid="GhhTD0uSk5" dmcf-ptype="general">생성 AI를 해킹해 유해 콘텐츠를 만들 수 있는 탈옥이 AI 시대 새로운 보안 위협으로 떠오르고 있다. 24일 정보기술(IT)업계에 따르면 보안 전문기업 팰로앨토네트웍스는 최근 중국의 생성 AI 서비스 ‘딥시크’가 탈옥 공격에 취약하다는 보고서를 공개했다. 탈옥은 AI 모델에 내장된 안전장치를 우회하는 방식으로 유해한 콘텐츠를 생성하거나 부적절한 답변을 출력하도록 유도하는 행위를 의미한다.</p> <p contents-hash="ce86f7d479192dba2dca06f6c18113328fa32be4f038eeb2b149487b8cbd8325" dmcf-pid="Hllywp7vjZ" dmcf-ptype="general">탈옥이라는 단어는 2000년대 초반 서버용 운영체제(OS)로 많이 쓰인 유닉스(UNIX)에서 처음 유래됐다. 일반적으로는 유닉스의 최상위(루트) 디렉터리에 대한 접근이 막혀 있는데 이 제약을 해제하는 것을 두고 탈옥이라는 표현을 썼다. 2007년 애플 아이폰 등장 이후에는 iOS를 수정해 애플이 제한한 기능을 쓸 수 있도록 하는 행위를 칭하게 됐다.</p> <p contents-hash="85406b2f47ae742fb3a9f907deafb1799661e85fcbef600a199c04b12f372629" dmcf-pid="XSSWrUzTjX" dmcf-ptype="general">2022년 11월 오픈AI의 챗GPT가 나온 뒤로는 생성 AI의 안전장치를 해제하는 것을 부르는 용어로 확대됐다.</p> <p contents-hash="9c21279f54d6351924f4562a75b3faf87c68206ddd476b8c2078e9eb4a4ab187" dmcf-pid="ZvvYmuqycH" dmcf-ptype="general">생성 AI를 대상으로 하는 탈옥은 AI에 대한 전문적인 지식 없이 프롬프트 입력만으로 할 수 있다는 점에서 위협적이다. 정상적인 대화 흐름 속에 악의적 지시를 숨겨 넣는 ‘디셉티브 딜라이트’ 기법과 점진적으로 모델을 유도해 유해한 출력을 만드는 ‘크레셴도’ 기법이 대표적이다. AI에 특정 주제나 행동을 리커트 척도로 평가하도록 요청한 뒤 AI의 행동을 유도하는 ‘배드 리커트 저지’ 도 있다. 탈옥 방법이 알려지면 AI 기업이 안전장치를 마련하지만, 해커 역시 새로운 탈옥 방법을 찾아내 이를 완전히 근절하는 게 불가능하다는 설명이다.</p> <p contents-hash="8743b37fc138b181bfb7d7a30c51068a6292669535b6de943d09fb7c693c4e9c" dmcf-pid="5TTGs7BWoG" dmcf-ptype="general">탈옥된 생성 AI는 각종 유해한 정보를 쏟아낼 수 있다. 팰로앨토네트웍스는 딥시크를 탈옥시켜 데이터 탈취 도구, 키로거(입력 정보를 가로채는 도구), 발화장치 제작 등 유해 콘텐츠를 생성했다. 시스코에 따르면 주요 AI 모델 가운데 딥시크의 탈옥 성공률이 100%로 가장 높았다. 메타의 라마 3.1(96%), 오픈AI GPT-4o(86%) 등 다른 AI도 탈옥에 취약했다.</p> <p contents-hash="3359c0c308289a825e9774549965298e31fe5c19a1ab274fa2ff82664414e705" dmcf-pid="1yyHOzbYoY" dmcf-ptype="general">필리파 콕스웰 팰로앨토네트웍스 부사장은 “국가 지원 해커들이 챗GPT와 제미나이를 활용해 피싱 기법을 정교화하고 악성코드를 개발하는 사례가 확인됐다”며 “향후 AI 기반 공격 에이전트까지 나올 것으로 예상한다”고 경고했다.</p> <p contents-hash="415b415bd6040f1f84dd8cd7dd46a6c4925b4e3cf5c56fbf27173d2dfa4a6760" dmcf-pid="toojMhvaoW" dmcf-ptype="general">최근 생성 AI의 영역이 온라인을 넘어 휴머노이드 로봇과 같은 물리 공간으로 확장하면서 탈옥이 인간에게 직접 위해를 가할 수 있다는 우려도 나온다. 생성 AI가 장착된 로봇을 탈옥시킬 경우 테러와 같은 위험 상황을 만들어낼 수 있기 때문이다.</p> <p contents-hash="053b005c9bfdaa0ad9d738fb11344848518450bbb15279fde73b5f592611029f" dmcf-pid="FggARlTNNy" dmcf-ptype="general">미국 펜실베이니아대 연구진은 대규모언어모델(LLM)을 장착한 로봇을 해킹해 탈옥시키는 방법을 찾아냈다. 탈옥된 로봇 개가 폭탄을 터뜨리거나 자율주행 차량과 보행자를 충돌시키는 등의 문제가 생길 수 있다는 사실을 확인했다. 조지 파파스 펜실베이니아대 교수는 “LLM이 물리적 세계와 통합됐을 때 충분히 안전하지 않다는 사실을 보여준다”고 지적했다.</p> <p contents-hash="69303c8c0d51ce8f8937613c2a48f95486391c3bf343adf2d5fc1795d9a73057" dmcf-pid="3aaceSyjgT" dmcf-ptype="general">이승우 기자 leeswoo@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기