로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[IT뉴스]
‘모두의 AI+’, 지역이 이끄는 중소기업 AI전환 성과 한자리에
N
[IT뉴스]
원·원스토어 본사 부산 간다…장현국 대표 "직원 주거 지원"
N
[IT뉴스]
[지스타 2026] [시연기] 크래프톤 ‘타래’, 묵직한 동양 판타지 손맛
N
[IT뉴스]
자이스웍스, 대만 Garage+ Startup Global Program F26 선정
N
[IT뉴스]
삼성페이는 무료, 애플페이는 유료…수수료 논란 재점화
N
커뮤니티
더보기
[자유게시판]
드디어 금요일이군요
[자유게시판]
오늘 다저스 어떻게 생각하시나요
[자유게시판]
하아 댓노
[자유게시판]
식곤증지립니다요
[자유게시판]
벌써 불금이네요
목록
글쓰기
[IT뉴스]AI 시대 디지털 신뢰 회복하려면…"기술·제도·시민 참여 연결 필수"
온카뱅크관리자
조회:
6
2026-11-19 14:57:26
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[안전한 AI의 길을 묻다 ⑤-끝] 피해 지원 연계·시민 신고로 제도 보완 필요</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="UlTifkd8AM"> <p contents-hash="95b4390fde8afb8969cf8ec61f302515b6493e20c84631eb453f5b9042e7bb55" dmcf-pid="uSyn4EJ6Ax" dmcf-ptype="general">(지디넷코리아=김미정 기자)생성형 인공지능(AI)이 일상 깊숙이 파고들면서 디지털 세상의 신뢰가 새로운 시험대에 올랐다. AI가 만든 가짜 이미지와 영상이 진짜처럼 유통되고, 허위정보와 사칭 범죄가 확산하면서 온라인에서 무엇을 믿어야 할지 판단하기 어려워지고 있다. 기술의 발전 속도에 비해 이용자 보호와 사회적 대응 체계는 여전히 부족하다는 지적도 나온다. 지디넷코리아는 '안전한 AI의 길을 묻다' 기획을 통해 AI가 가져온 디지털 환경 변화와 그 이면의 문제를 짚어본다. 피해 실태와 제도적 한계, 플랫폼의 책임, 시민의 디지털 리터러시 등을 살펴보고 건강하고 신뢰할 수 있는 디지털 생태계를 만들기 위한 해법을 모색한다. <strong>[편집자주]</strong></p> <p contents-hash="0a5b589bb27e43e903b8bb0e4e7827be5031f74b069d1ed6b8f798464d943322" dmcf-pid="7vWL8DiPkQ" dmcf-ptype="general">딥페이크 같은 인공지능(AI) 악용 피해를 줄이려면 탐지 기술만으로는 한계가 있다. 콘텐츠 출처를 확인하는 기술까지 발전시켜야 한다. 제도적으로는 기관별로 흩어진 피해 지원 체계를 연결하고, 시민 피해 신고를 정책 개선에 활용해야 한다는 방안도 제시됐다.</p> <p contents-hash="29526d68db46822b64911329cabf824bf65f5ee112d3ee622d65d6a4ea756740" dmcf-pid="zTYo6wnQjP" dmcf-ptype="general">국내외 AI 정책 전문가와 기업 관계자들은 AI 악용을 막고 신뢰를 회복하려면 기술·제도·시민 참여를 이같이 연결해야 한다고 강조했다. 기업은 실제 서비스에서 탐지·검증 기술의 성능을 확인하고, 정부는 기관별 피해 대응을 연계하면서 시민 신고 사례를 정책 개선에 활용해야 한다는 설명이다.</p> <p contents-hash="21757e4cba21270fb32fe7dc496488c9ce31347a624d9944a3f696b0035ef485" dmcf-pid="qyGgPrLxo6" dmcf-ptype="general">최근 AI로 얼굴과 목소리를 정교하게 복제할 수 있게 되면서 사진이나 영상만으로는 진위를 판단하기 어려운 상황이 됐다. 특히 합성 기술은 콘텐츠 제작과 소통을 돕지만, 타인을 사칭하거나 허위 정보를 퍼뜨리는 데 악용되면 개인 일상과 사회적 신뢰를 위협할 수 있다.</p> <figure class="figure_frm origin_fig" contents-hash="bd6bce15fedc6e18808aad3441f713e463b1b3527e7f266827d7de709f6dfe0a" dmcf-pid="BWHaQmoMA8" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI로 얼굴과 목소리를 정교하게 복제할 수 있게 되면서 사진이나 영상만으로 진위 판단이 어려워지고 있다. (이미지=구글 제미나이)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/19/ZDNetKorea/20261119145431587tcsv.png" data-org-width="640" dmcf-mid="32rxBgPKad" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/19/ZDNetKorea/20261119145431587tcsv.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI로 얼굴과 목소리를 정교하게 복제할 수 있게 되면서 사진이나 영상만으로 진위 판단이 어려워지고 있다. (이미지=구글 제미나이) </figcaption> </figure> <p contents-hash="971283a190f6fa1e86eeebd3a57900527ce984efce2c1c5cd936ab575ca3aa0e" dmcf-pid="bYXNxsgRa4" dmcf-ptype="general">일각에선 대응 기술과 제도만으로 모든 악용을 막기 쉽지 않다는 목소리도 나오고 있다. AI 생성물 표시를 지우거나 처음부터 표시 없는 합성물을 만들 수 있고, 이용자 개인이 일일이 가려내는 데도 한계가 있다는 이유에서다. 탐지 기술과 플랫폼 대응, 피해자 지원, 시민의 정보 판별 능력을 함께 강화해야 한다는 논의가 나오는 배경이다.</p> <p contents-hash="4196242a7482ab4aa074c916703c4939b7ba6af7358d3c97f1113ca70db67902" dmcf-pid="KGZjMOaeNf" dmcf-ptype="general"><strong>"표시 없는 딥페이크도 탐지해야…AI 연산 칩으로 출처 확인"</strong></p> <figure class="figure_frm origin_fig" contents-hash="1244592c02b20855752e19ce7d1802accbf0d41fda4bf6821af3c9c823f95265" dmcf-pid="9H5ARINdcV" dmcf-ptype="figure"> <p class="link_figure"><img alt="딥페이크 대응력을 높이려면 콘텐츠 출처를 확인하는 기술과 표시 없는 합성물도 찾아내는 탐지 기술을 함께 발전시켜야 한다는 주장이 나왔다. (이미지=이미지투데이)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/19/ZDNetKorea/20261119145432874bswk.jpg" data-org-width="640" dmcf-mid="0VhRKNx2je" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/19/ZDNetKorea/20261119145432874bswk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 딥페이크 대응력을 높이려면 콘텐츠 출처를 확인하는 기술과 표시 없는 합성물도 찾아내는 탐지 기술을 함께 발전시켜야 한다는 주장이 나왔다. (이미지=이미지투데이) </figcaption> </figure> <p contents-hash="61a62c1abebdc4bb4ae51589580525204bc6681f0d1abdcc8e4f83fb9254ede4" dmcf-pid="2X1ceCjJk2" dmcf-ptype="general">딥페이크 대응력을 높이려면 콘텐츠 출처를 확인하는 기술과 표시 없는 합성물도 찾아내는 탐지 기술을 함께 발전시켜야 한다는 주장이 나왔다. 기업이 실제 서비스에서 기술의 성능을 검증할 수 있도록 데이터와 시험 환경을 지원해야 한다는 의견도 제시됐다.</p> <p contents-hash="0d9a93da2373a883e406f2c8096d0a857390d3ad995fff4feab6d6e67308c598" dmcf-pid="VZtkdhAio9" dmcf-ptype="general">퓨처오브라이프인스티튜트(FLI) 한국 담당자는 딥페이크 대응 기술을 가짜를 찾아내는 데서 콘텐츠 출처를 확인하는 방향으로 넓혀야 한다고 제언했다. 합성 여부를 판단하는 기술뿐 아니라 사진·영상이 어디서 만들어졌는지 확인할 수단까지 갖춰야 한다는 설명이다.</p> <p contents-hash="2bff8efbc115f94361d1b7b557f0988284b61d7ad0aa75f54a046d5f5cc4945f" dmcf-pid="fzblcZCENK" dmcf-ptype="general">그는 AI가 이미지·영상·음성을 만들 때 연산을 수행하는 반도체 칩 보안 기능을 활용할 수 있다고 설명했다. 콘텐츠 생성 과정에서 칩 기반의 디지털 서명을 남기면, 문제가 발생했을 때 법적 절차에 따라 어느 서비스에서 만든 결과물인지 확인할 수 있다는 구상이다.</p> <p contents-hash="315f20929acaa343367157915eb179dbb60d5b65806ff95f008f42d36514c01d" dmcf-pid="4qKSk5hDNb" dmcf-ptype="general">그는 "AI 기본법 표시 의무를 성실히 지키는 기업도 이를 객관적으로 보여줄 방법이 마땅치 않다"며 "기술로 의무 이행을 증명할 수 있게 되면 기업 부담도 오히려 줄어들 수 있을 것"이라고 말했다.</p> <p contents-hash="caa97e5c66a9036f8393c26bf88d7b7e6ac52605a72801d0531426699f13c0a8" dmcf-pid="8B9vE1lwaB" dmcf-ptype="general">이 담당자는 촬영·녹음 단계에서 출처를 기록하는 방식도 제시했다. 카메라나 녹음기가 콘텐츠를 기록하는 순간 보안 칩으로 디지털 서명을 남겨 진본 여부를 확인하는 방식으로, 이미 상용화가 시작된 기술이다.</p> <p contents-hash="e9df4436d4454534e85d03cab587ca49abc4526c4f433b6b1d28fb63825b6787" dmcf-pid="6b2TDtSraq" dmcf-ptype="general">그는 "한국은 반도체와 스마트폰, 이미지 센서 산업을 모두 갖췄다"며 "이런 기술을 발전시킬 좋은 기회를 가진 국가"라고 말했다. 이어 "AI 생성 단계와 촬영 단계의 검증 기술을 함께 설계하고 국제 표준 논의도 이끌 수 있을 것"이라고 봤다.</p> <p contents-hash="c32bc850380066db80206137281e973706470dd216b97e9c2ffc895479c7bdb3" dmcf-pid="PKVywFvmgz" dmcf-ptype="general">박현우 라온시큐어 AI사업본부장은 워터마크 없어도 위조 여부를 판단하는 기술을 고도화해야 한다고 제언했다. 공격자가 워터마크를 지우거나 공개된 생성 모델로 처음부터 표시 없는 딥페이크를 만들 수 있어서다.</p> <p contents-hash="0dcfa463e1ea6d905a054f40ef85432346d73dbe6e4a77bf1d731291f5907d91" dmcf-pid="Q9fWr3Tsa7" dmcf-ptype="general">박 본부장은 특히 새로운 합성 기법으로 만들거나 압축·재인코딩한 콘텐츠에서도 탐지 성능을 유지해야 한다고 강조했다. 그는 "사진과 동영상뿐 아니라 가짜 음성과 실시간 영상통화까지 탐지 대상을 넓혀야 한다"고 말했다.</p> <p contents-hash="01786cae73d391698d80bb98fa96b3964b9ab72491d9f42794e3d5be90584412" dmcf-pid="x24Ym0yOgu" dmcf-ptype="general"><strong>"흩어진 지원 체계 연결…시민 신고로 정책 사각지대 줄여야"</strong></p> <figure class="figure_frm origin_fig" contents-hash="d6410afec2e603125f4248d16fd020e34a0dce7cd888be08635fcd309b873ced" dmcf-pid="yOhRKNx2AU" dmcf-ptype="figure"> <p class="link_figure"><img alt="기관별로 나뉜 지원 체계를 연결하고, 시민의 피해 신고를 제도 개선에 반영해야 한다는 주장이 나왔다. (이미지=이미지투데이)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/19/ZDNetKorea/20261119145434222axzi.jpg" data-org-width="640" dmcf-mid="pZblcZCEjR" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/19/ZDNetKorea/20261119145434222axzi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 기관별로 나뉜 지원 체계를 연결하고, 시민의 피해 신고를 제도 개선에 반영해야 한다는 주장이 나왔다. (이미지=이미지투데이) </figcaption> </figure> <p contents-hash="1cc0df6160380cefbc32081358978603d6376eb4cde9a59e1a499939dc57e7d2" dmcf-pid="WIle9jMVop" dmcf-ptype="general">국내외 AI 업계에선 기관별로 나뉜 지원 체계를 연결하고, 시민의 피해 신고를 제도 개선에 반영해야 한다는 주장도 나왔다. 피해자가 필요한 도움을 신속히 받도록 지원하면서도 신고 사례를 분석해 비슷한 피해 재발을 막아야 한다는 취지다.</p> <p contents-hash="ce0b56e6c9c6dbc95354a8c74fec17427a413cef05022d56a2dda6f2300d1eb9" dmcf-pid="YCSd2ARfa0" dmcf-ptype="general">국가AI전략위원회는 AI 악용 예방부터 탐지·차단·수사·피해 회복까지 이어지는 대응 체계 구축을 시급한 과제로 꼽았다. 현재 범죄 유형과 대응 단계에 따라 신고·상담 창구가 여러 기관으로 나뉜 상태라, 피해자가 적절한 지원기관을 찾는 데 어려움이 있다는 설명이다.</p> <p contents-hash="897f2422ec23f9fe2c6bf0e98d4ecad4e161cb52d0c92ef172c8cb659dbd7f8d" dmcf-pid="GhvJVce4A3" dmcf-ptype="general">AI전략위원회 관계자는 "정부는 경찰 초기 수사와 방송미디어통신심의위원회의 불법 콘텐츠 차단, 성평등가족부·교육부의 심리·법률 지원, 금융감독원의 금융 피해 대응을 신속하게 연결해야 한다"고 강조했다.</p> <p contents-hash="db6521eacb272a2272115185b7a86260f37da052a3cff650a0aa5fa39edee65a" dmcf-pid="HlTifkd8kF" dmcf-ptype="general">실제 이에 발맞춰 방송미디어통신위원회와 경찰청, 성평등가족부 등 관계부처는 AI전략위 'AI 행동계획'에 따라 AI 범죄근절 종합대응계획을 마련하고 있다. 위원회는 계획 수립 과정에서 부처 간 협업을 지원하고 사회적 합의가 필요한 과제를 발굴·조정할 방침이다.</p> <p contents-hash="feab3b8a21458cc85e4919e494d1fd8daaa6f348e2e051e54817d1ab7c935e73" dmcf-pid="XSyn4EJ6at" dmcf-ptype="general">변형진 이스트소프트 최고AI책임자(CAIO)는 국내 AI 생성물 표시 제도와 C2PA 등 국제 표준의 연계를 강화해야 한다고 제언했다. 기업의 제도 적용 경험을 공유하고 국제 표준과 연결할 구체적인 방안을 마련해야 한다는 설명이다.</p> <p contents-hash="26ea2c03a2a83808c10a9ca1cbde0eac3777decdee204c72237168bb8694d718" dmcf-pid="ZvWL8DiPc1" dmcf-ptype="general">변 CAIO는 "정부가 마련한 표시 제도와 가이드라인을 바탕으로 기업의 적용 경험을 공유하고, C2PA 등 국제 표준과의 연계 방안을 구체화해야 한다"며 "국내 기업들이 국내외 서비스 환경에서 신뢰할 수 있는 기술을 개발·적용하는 데 도움이 될 것"이라고 말했다.</p> <p contents-hash="40ffe3069821b4a124190a2fb46ad2cc66c77fd2bab55dc895321f9dd5025d5a" dmcf-pid="5ngzX8u5N5" dmcf-ptype="general">출처 표시와 생성 이력 관리, 본인 동의 확인 등 기업의 자발적인 안전조치도 확산해야 한다고 강조했다. 그는 "신뢰 확보를 위한 기업의 자발적인 노력이 인정받고 우수 사례로 공유된다면, 피해 예방을 위한 투자를 촉진하고 국내 생성형 AI 산업의 신뢰와 경쟁력을 높이는 데 도움이 될 것"이라고 밝혔다.</p> <p contents-hash="329cd0684d69e6c9ce7fb717d3c0b460c3a4124c915f7ba83205379e0dc3284a" dmcf-pid="1LaqZ671kZ" dmcf-ptype="general">피해 지원 과정에서 접수한 신고를 정책 개선 근거로 활용해야 한다는 의견도 나왔다. 피해 유형과 발생 경로가 기록되면 정부는 제도 빈틈을 보완하고, 기업은 안전장치를 개선할 수 있다는 설명이다.</p> <p contents-hash="ded97ed5e11e2f6a506b445fc72c289b5798324756b9f9478322fd3e391043d3" dmcf-pid="toNB5PztaX" dmcf-ptype="general">FLI 한국 담당자는 참고 사례로 미국 플로리다주와 추진 중인 AI 피해 대응 사업을 소개했다. 플로리다주 기관들은 FLI와 협력해 정신건강 전문가가 AI로 인한 심리적 피해를 알아보고 대응할 수 있도록 돕는 교육 과정을 개발하고 있다. 시민 누구나 AI 피해를 신고할 수 있는 양식도 마련해 접수된 사례를 정책 근거로 활용할 계획이다.</p> <p contents-hash="ba9d1c5e63f9af27e16e105a623366dae5179919ddcd61f237e2e8cb2a94304d" dmcf-pid="Fgjb1QqFaH" dmcf-ptype="general">그는 "AI 챗봇 피해에서 출발한 사업이지만, 피해를 기록하고 정책으로 연결하는 방식은 딥페이크 대응에도 참고할 만하다"고 설명했다.</p> <p contents-hash="a1045497879199f62e06c6814d3d5efa03d862b8ddfa8c31384f179d7b1ca19a" dmcf-pid="3aAKtxB3kG" dmcf-ptype="general">이어 "시민이 피해를 입었을 때 도움받을 수 있다는 믿음이 있어야 AI 활용도 넓어질 수 있다"며 "안전과 신뢰가 결국 혁신을 받쳐 줄 것"이라고 밝혔다.</p> <p contents-hash="2daeb35617a3f13f3906eae39a9f75a241f8d3dfb5f3f13bddabc2981ebe85e0" dmcf-pid="0Nc9FMb0cY" dmcf-ptype="general">※ 본 보도는 한국언론진흥재단 지원을 받아 제작됐습니다.</p> <p contents-hash="d3eb1ad34eaa4a2a5558dcc6a237f49474ae2015f4162aeeae355b937e8cccad" dmcf-pid="pjk23RKpcW" dmcf-ptype="general">김미정 기자(notyetkim@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기