【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]10만원에 '댓글 400개씩 달아줘요'…대선 앞두고 '비상'

온카뱅크관리자

2025-05-20 17:57:31

<div id="layerTranslateNotice" style="display:none;"></div> AI 활용한 가짜 여론 조성…대선 앞둔 한국도 '비상' 위험 수위 넘은 AI 댓글 국내선 '댓글 AI'로 유혹 포털들 AI發 가짜여론 무대책 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="40U2zPIihv">
 <figure class="figure_frm origin_fig" contents-hash="f8d2e75a8865f6e40e52066fc82cc9451f5dc916145e95b15f24463699349222" dmcf-pid="8puVqQCnCS" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/20/ked/20250520175305337xbqa.jpg" data-org-width="1036" dmcf-mid="4dyqStdzCJ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/20/ked/20250520175305337xbqa.jpg" width="658">
 </figure>
 “한 달에 10만원이면 인공지능(AI)이 하루에 댓글을 300~400개 달아줍니다.” 유튜브 등에 버젓이 올라온 ‘댓글 AI’ 판매 영상 내용이다. 영상 게시자는 AI가 네이버 등 포털의 블로그 게시글을 분석해 맞춤형 댓글을 올려준다며 유혹의 손길을 뻗친다.
 최근 X(옛 트위터)에선 일론 머스크의 AI 기업 xAI의 챗봇(그록)이 ‘대안 우파’로 불리는 이들의 이념을 설파하는 데 활용되고 있다는 논란이 일었다. 도널드 트럼프 미국 대통령이 지난 11일 남아프리카공화국 출신 백인 57명을 처음 난민으로 수용한 직후부터 그록이 ‘남아공 백인 집단 학살’이라는 엉뚱한 답변을 쏟아내고 있다는 것이다. AI를 활용한 여론 조작이 위험 수위를 넘어서고 있음을 보여주는 사례다.
  ◇사람보다 설득 잘하는 AI
 프란체스코 샐비 스위스 로잔공대 박사는 19일(현지시간) 네이처에 게재한 논문에서 “(오픈AI의 대규모언어모델인) GPT-4가 간단한 개인정보만으로 상대를 설득하기 위한 맞춤형 주장을 생성할 수 있다”며 “잘못된 주장을 퍼뜨리거나 설득하는 데 AI가 악용될 수 있다”고 밝혔다. 연구팀은 실험자 900명을 대상으로 GPT-4 또는 사람과 10분씩 특정 주제를 토론하는 실험을 한 결과 실험자의 성별, 연령 등 개인정보를 바탕으로 맞춤형 주장을 펼친 GPT-4가 사람보다 설득력이 64% 더 뛰어난 것으로 나타났다.
 ‘AI 여론조작’의 위력은 실험에서 입증됐다. 스위스 취리히대는 지난해 11월부터 온라인 커뮤니티 레딧에 비밀리에 AI 챗봇 34개를 투입했다. ‘남성 성폭행 피해자’ ‘흑인 인권운동을 반대하는 흑인’ 등 정체성을 부여받은 이 챗봇들은 4개월간 1700개 이상의 게시글과 댓글을 작성했다.
 챗봇들은 상대방의 이전 게시글 등을 분석해 성별, 연령, 인종, 정치적 성향 등을 파악해 맞춤형 댓글을 달았다. 레딧 사용자들은 자체 평가 시스템을 통해 AI 댓글이 일반 사용자 댓글보다 3~6배가량 설득력이 높다고 평가했다.
  ◇국내에선 AI 댓글 못 막아
 AI를 활용한 여론전은 이미 ‘사이버 전쟁’ 차원에서 이뤄지고 있다. 미국 뉴욕타임스에 따르면 이스라엘 재외동포부는 2023년 10월 자국 정치 마케팅 기업인 스토익을 고용했다. 가자지구 전쟁에 관한 국제 여론을 자국에 유리하게 바꾸기 위해서다. 스토익은 X, 페이스북, 인스타그램 등 SNS에 AI 계정 수백 개를 생성해 이스라엘에 우호적인 게시글을 양산했다.
 오픈AI가 지난해 5월 중국과 러시아가 여론조작에 자사 챗GPT를 활용했다는 보고서를 발표한 것도 같은 맥락이다. 대만 국가안전국은 지난달 입법원(의회)에 제출한 보고서를 통해 중국이 올해 들어 51만 건의 가짜 메시지를 생성해 자국 여론을 왜곡하려 했다고 밝혔다.
 대선을 앞두고 국내 포털사이트가 여론조작 방지 대책을 내놓고 있지만 AI발 가짜여론 대책은 전무하다. 네이버와 다음은 사용자가 한 번에 많은 뉴스 댓글을 작성하지 못하도록 하는 머신러닝 기반 도배 방지 시스템을 적용하고 있다. 그러나 댓글 작성자가 AI인지 사람인지 감지할 방법은 없는 것으로 알려졌다. 이재국 성균관대 미디어커뮤니케이션학과 교수는 “AI가 만드는 가짜여론은 진위를 판단할 수 있는 가짜뉴스와 달리 진실성을 따지기 어려워 더욱 위험할 수 있다”고 분석했다.
 김인엽 기자 inside@hankyung.com
 </section> 
 </div> 
 Copyright © 한국경제. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기