【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]민주주의 신뢰 흔드는 '가짜 뉴스'의 공습…“AI가 파괴한 진실, AI로 복구” [특별기획 ②]

온카뱅크관리자

2026-11-10 14:37:25

<div id="layerTranslateNotice" style="display:none;"></div> AI 시대, 건강한 미래 공존의 지혜를 찾다 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="qG8cGnEoCz">
 생성형 AI가 일상 깊숙이 스며들면서 딥페이크를 앞세운 사이버 폭력, 선거와 금융시장을 흔드는 허위조작정보, 에이전트 AI의 악용 등 기술의 그늘도 빠르게 짙어지고 있다. 최근 동시다발적 AI 기반 해킹에서 보여주듯 AI의 진화 속도는 이미 사회의 대응 능력을 앞지르고 있으며, 이는 특정 국가가 아닌 글로벌 공통의 과제가 됐다.
 &lt;디지털데일리&gt;는 한국언론진흥재단이 진행하는 공익 목적 콘텐츠 기획의 일환으로, 총 5회에 걸쳐 AI가 공동체에 던지는 위협의 실체를 진단한다. 아울러 해외 주요국의 대응 사례와 함께 'AI 기본법' 등 국내 법·제도가 보강해야 할 과제를 통해 건강한 공존의 해법을 모색한다. &lt;편집자&gt;
 <figure class="figure_frm origin_fig" contents-hash="aa6155cb00268b3d2254958374f580f417aca464107487a3c3c6d3a6b9841f11" dmcf-pid="KZQDZgrNlU" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110142857395wnhm.png" data-org-width="640" dmcf-mid="ukbZfv1yCb" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110142857395wnhm.png" width="658">
 </figure>
 - 민주주의와 신뢰를 흔드는 '허위조작정보'의 공습
 [디지털데일리 오병훈기자]#2023년 인도 타밀나두주에서는 정치권을 뒤흔든 음성 녹음이 공개됐다. 당시 주 재무장관이던 팔라니벨 티아가 라잔이 소속 정당 지도부 가족의 부정 축재를 언급하고 반대 당인 BJP를 치켜세우는 듯한 음성 녹음 두 건이 잇따라 폭로된 것이다.
 폭로를 당한 라잔은 공개된 음성 파일이 인공지능(AI)으로 조작된 가짜라고 반박했다.
 그러나 미국 기술 전문매체 ‘레스트오브월드(Rest of World)’가 3개 전문기관에 음성 감정을 의뢰한 결과는 달랐다. 부정 축재 발언이 담긴 첫 번째 녹음은 판단이 엇갈렸으나 BJP를 언급한 두 번째 녹음에 대해서는 분석기관들이 실제 녹음이라는 데 의견을 같이했다.
 AI가 만들어낸 가짜 콘텐츠가 문제가 되는 시대를 넘어 진짜 녹음까지 AI가 만들었다며 부정할 수 있는 환경이 현실화된 것이다.
 이른바 ‘거짓말쟁이의 배당(Liar's Dividend)’이다. AI를 활용한 조작이 일상화될수록 실제 잘못을 저지른 사람이 진짜 증거마저 가짜라고 주장해 책임을 회피할 가능성이 커진다는 개념이다.
 다만 전문가들은 이러한 위험을 경고하는 데서 논의를 멈춰서는 안 된다고 지적한다. 진실과 거짓을 구별하기 어려워진 사회에서 필요한 것은 허위정보 차단뿐 아니라 AI를 활용해 진실을 검증하고 무너진 사회적 신뢰를 복원할 수 있는 새로운 체계라는 설명이다.
 ◆‘가짜뉴스’라 우기면서 책임 회피…학계가 증명한 역설
 ‘거짓말쟁이의 배당’은 지난 2019년 미국 법학자 로버트 체스니와 대니엘 시트런이 학술지 ‘캘리포니아 로리뷰(California Law Review)’에 발표한 논문에서 제시한 개념이다.
 이때 이미 연구진은 딥페이크가 존재한다는 사실만으로도 실제 음성·영상 증거의 신뢰성이 떨어질 수 있다고 경고했다. 누군가 불리한 증거를 마주했을 때 이를 조작이라고 주장하면 증거를 제시한 측이 오히려 진위 입증 부담을 떠안게 되는 구조다.
 이러한 우려가 단순한 가설에 그치지 않는다는 실증 결과도 나왔다.
 지난 2024년 ‘미국정치학회보’에 게재된 ‘거짓말쟁이의 배당:정치인은 허위정보 주장을 통해 책임을 회피할 수 있는가’ 논문이 대표적이다.
 미국 퍼듀대·에모리대 연구진은 미국 성인 1만5000명 이상을 대상으로 다섯 차례 설문 실험을 진행했다. 실제 정치인의 스캔들을 바탕으로 구성한 기사나 영상을 보여준 뒤 해당 정치인이 이를 허위정보라고 주장할 때 지지도가 어떻게 변하는지를 분석했다.
 결과적으로 텍스트 기반 스캔들에서는 정치인이 허위정보라고 반박하는 것만으로도 지지도가 높아졌다. 효과는 같은 정당 지지층뿐 아니라 무당층과 반대 정당 지지층에서도 관찰됐다. 침묵하거나 사과하는 것보다 허위정보라고 반박하는 편이 정치적으로 유리한 경우가 나타난 것이다.
 다만 영상 증거에서는 같은 효과가 대체로 확인되지 않았다. 연구진은 거짓말쟁이의 배당이 실제 존재하지만 모든 유형의 증거에 똑같이 작동하는 것은 아니라고 설명했다.
 더 근본적인 위험은 가짜를 믿는 현상보다 진짜를 의심하게 되는 현상에 있다.
 지난 2022년 예일대 연구진이 ‘온라인 신뢰와 안전 저널(Journal of Online Trust and Safety)’에 발표한 두 차례 실험에서는 참가자들에게 딥페이크 위험을 경고하자 조작 영상을 정확히 식별하는 능력은 향상되지 않은 반면, 실제 영상까지 가짜로 판단하는 경향이 나타났다.
 허위정보를 경계하도록 하는 교육과 경고가 오히려 진짜 정보에 대한 불신을 키울 수도 있다는 역설이다.
 <div contents-hash="29292c9feb78e63b3ffa76c5a944030f5ea9bf50d426b5273f458731e2dc4582" dmcf-pid="1cWbL09Uyh" dmcf-ptype="general">
 이종관 법무법인 세종 수석전문위원은 “실제 사실과 진실에 대한 불신이 더 큰 문제가 될 것으로 판단된다”며 “AI 환경에서 진실에 대한 회의와 부정이 심화되면 허위조작정보만을 가려내는 문제가 아니라 전체 사회의 진실성과 신뢰성에 대한 회의로 귀결될 수 있다”고 지적했다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="78aedda5fc6105dfe28490fb12b5641a1aa441350587252b69f6172f5b7c85c1" dmcf-pid="tkYKop2uyC" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110142858675qlrh.png" data-org-width="640" dmcf-mid="7bg8cBPKhB" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110142858675qlrh.png" width="658">
 </figure>
 ◆진실 무너지면 민주주의도 흔들린다…검증 비용의 비대칭
 AI가 기존 허위정보와 구별되는 지점은 ‘생산과 확산’ 구조다. 과거에는 허위정보를 제작하기 위해 일정한 취재나 편집, 스토리 구성이 필요했다. 완전히 말도 안되는 허위 정보는 대중의 선택을 받을 수 없기 때문이다.
 하지만 생성형 AI는 텍스트·이미지·음성을 손쉽게 생산하고, 특정 대상에게 맞춘 메시지까지 대량으로 만들어낼 수 있다. AI 에이전트를 이용하면 콘텐츠 제작과 유통 과정의 자동화도 가능하다. 적절한 스토리와 빠른 확산은 진실의 경계를 빠르게 파괴하는 강력한 무기가 됐다.
 허위정보 제작 비용은 낮아지는 반면 이를 검증하기 위한 사회적 비용은 증가하는 셈이다.
 문제는 이러한 불신이 언론과 정치권을 넘어 민주주의의 의사결정 구조까지 위협한다는 점이다.
 국가AI전략위원회 AI민주주의분과장을 맡고 있는 김의영 서울대학교 정치외교학부 교수는 “AI가 여기저기서 허위정보를 마구 만들어내면 필터링하는 것이 거의 불가능할 정도로 어려워진다”며 “정보시장이 혼란스러워지고 신뢰가 붕괴되는 상황이 올 수 있다”고 우려했다.
 김 교수는 민주주의가 단순히 투표하는 제도에 그치지 않는다고 강조했다. 시민들이 공통의 정보를 바탕으로 의견을 교환하고 합의에 도달하는 공론장 자체가 민주주의의 중요한 작동 원리라는 설명이다.
 그는 “민주주의 자체가 작동이 안 되고 민주주의에 대한 신뢰가 훼손되고 또 정치에 무관심하게 된다”며 “그렇게 되면 국가나 빅테크 기업과 같은 공적 권력을 감시하는 능력도 점점 약해질 수 있다”고 말했다.
 정보를 믿을 수 없다는 인식이 확산되면 시민들이 서로 다른 사실을 근거로 판단하게 되고 합의를 이루기보다 감정적이거나 극단적인 주장에 쏠릴 가능성도 커진다는 분석이다.
 <div contents-hash="65accc0aaf6a6c8617e929dff4e00e38ed4cbf7d49133988d0470cc63dea9e10" dmcf-pid="BF8cGnEoyc" dmcf-ptype="general">
 김도승 전북대학교 법학전문대학원 교수 역시 “고도화된 지능정보사회에서 사회적인 신뢰는 단순히 윤리의 문제가 아니라 민주주의와 시장경제를 지탱하는 중요한 사회적 자본”이라며 “법과 정책도 개별 피해 대응을 넘어 정보 생태계 전반의 신뢰 인프라를 지키고 확장하는 방향으로 나아가야 한다”고 강조했다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="6175961063bfab7a1f4fc9322b3ffb4cf840ce4f9bca13aa3482aa6d5a179e65" dmcf-pid="b36kHLDgSA" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110142859924clth.png" data-org-width="640" dmcf-mid="zpiCpElwCq" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/10/552796-pzfp7fF/20261110142859924clth.png" width="658">
 </figure>
 ◆AI 공격에 AI로 맞선다…허위정보 차단 넘어 공론장 복원으로
 그렇다면 AI를 민주주의에 해악을 끼치는 규제 대상으로만 바라봐야 할까. 전문가들은 오히려 AI에 AI로 대응하기 위한 사례발굴과 대응책 논의가 더 적극적으로 이뤄져야 한다고 입을 모았다.
 관련 연구는 이미 진행되고 있다. 지난 2025년 국제학술지 ‘파나스 넥서스’에 발표된 연구에서는 참가자 955명을 대상으로 대규모언어모델(LLM)이 근거에 기반한 대화를 통해 음모론이나 근거 없는 믿음을 교정할 수 있는지 실험했다.
 연구 결과 AI가 개인의 주장에 맞춰 사실과 증거를 제시하는 대화 방식은 피험자의 허위 확신을 유의미하게 낮췄다. 대화 상대가 AI임을 밝히고 대화하는 방식과 대화 상대를 인간 전문가로 소개해 진행한 실험에서 결과 상 유의미한 차이는 없었다.
 정리하면 AI 자체에 대한 권위보다 구체적인 증거를 바탕으로 한 설명이 중요하다는 의미다.
 물론 AI를 이용한다고 허위정보 검증이 자동으로 해결되는 것은 아니다. 2025년 ‘로열소사이어티 오픈사이언스’에 발표된 연구에서는 총 1223명을 대상으로 AI 생성 허위정보와 대응 수단 효과를 비교했다. 허위정보에 노출되기 전 AI의 위험을 경고하는 방식만으로는 잘못된 정보가 추론에 미치는 영향을 충분히 줄이지 못했다.
 반면 허위정보를 사후에 구체적으로 반박하는 조치는 효과를 보였다. 연구진은 사전 경고와 사후 반박을 결합했을 때 허위정보의 영향을 제거할 수 있었다고 분석했다.
 전문가 사이에서는 AI를 단순한 규제 대상이 아니라 민주주의 회복의 도구로 활용해야 한다는 목소리가 나온다.
 기존 공론화 과정이 시민들을 한자리에 모아 의견을 듣는 방식이었다면, 이제는 AI를 활용해 토론에 필요한 사전 정보와 쟁점을 제공하고 다양한 시민 의견을 구조화할 수 있다는 것이다.
 대표적으로 국가AI전략위원회 AI민주주의분과는 과학기술정보통신부와 함께 AI 기반 공론장 마련에 집중하고 있다. 시민들이 온라인에서 관련 의제를 학습하고 의견을 제출하면 AI가 의견 분포를 시각화하고 토론 의제를 도출하는 방식이다. 이후 오프라인 숙의 토론으로 연결해 시민들의 합의를 모색할 예정이다.
 김 교수는 “AI 때문에 생기는 위협을 잘 막는 것도 중요하지만 새로운 건전한 공론장을 AI를 활용해서 만드는 노력도 필요하다”며 “AI를 잘 다스리는 방법과 잘 활용하는 방법 두 가지를 모두 고민해야 한다”고 강조했다.
 종합적으로 AI 시대 허위정보 대응의 목표는 가짜 콘텐츠를 얼마나 많이 삭제했느냐에만 머물러서는 안 된다는 것이 전문가들의 공통된 의견이다. 실제 정보를 검증할 수 있는 경로를 마련하고 시민들이 다시 공통의 사실을 바탕으로 토론할 수 있도록 만드는 것이 중요하다는 것이다. 거짓말쟁이가 진실을 부정해 이익을 얻는 현실을 경계하는 동시에, AI를 활용해 그러한 이익이 통하지 않는 정보 환경을 구축해야 하는 이유다.
 김도승 교수는 “진실이라는 것은 국가의 행정적 결정이 아니라 열린 공론장에서 시민들의 개방적인 상호 검증과 교차 검증을 통해 자연스럽게 가려지고 수용돼야 한다”고 말했다.
 최경진 가천대학교 법학과 교수도 “AI 시대 허위조작정보 대응에서 법이 해야 할 일은 진실의 심판자가 되는 것이 아니라 신뢰할 수 있는 정보 환경의 인프라를 설계하는 것”이라고 강조했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기