【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]故 김새론 벼랑 내몬 악성 댓글, AI 기술로 잡을 수 있을까

온카뱅크관리자

2025-02-23 06:07:30

<div id="layerTranslateNotice" style="display:none;"></div> 자연어 처리와 기계학습으로 실시간 식별…파리올림픽서도 쓰여 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="2Nsacb2XJ5">
 <figure class="figure_frm origin_fig" contents-hash="10d6ca29bcda029534c6761399c75e1e0c1f053f7a2eb475b9ee832dde7336c8" dmcf-pid="VjONkKVZiZ" dmcf-ptype="figure">
 <img alt="악성댓글 [연합뉴스TV 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/23/yonhap/20250223060026948dfhr.jpg" data-org-width="1024" dmcf-mid="9O6zKhvaM1" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/23/yonhap/20250223060026948dfhr.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 악성댓글 [연합뉴스TV 제공]
 </figcaption>
 </figure>
 (서울=연합뉴스) 이정현 기자 = 배우 김새론의 죽음이 무분별한 악성 댓글의 심각성을 다시 한번 일깨운 가운데 인공지능(AI) 기술이 해결책이 될 수 있다는 목소리가 나온다.
 AI 기반 악성 댓글 감지 시스템은 자연어 처리(NLP)와 기계학습(ML) 기술을 활용해 텍스트 내용을 분석하고 악성 댓글을 실시간으로 식별한다.
 NLP는 댓글의 문맥·어휘·구문 등을 분석해 숨겨진 의미와 의도를 파악하고, ML은 댓글의 패턴을 인식해 욕설·비하·혐오 표현·차별적 발언을 높은 정확도로 판별한다. 
 여기에 더해 복잡한 언어 구조와 미묘한 뉘앙스까지 분석하는 딥러닝은 비꼬는 표현이나 은유적 표현을 통해 악의적 의도를 드러내는 댓글까지도 식별할 수 있다.
 AI 악성 댓글 감지 시스템은 24시간 악성 댓글을 감지하고 한국어뿐만 아니라 다양한 언어의 악성 댓글을 분석할 수 있다. 또 플랫폼과 사용자 특성에 맞춰 감지 기준을 조정할 수 있고, 지속적 학습을 통해 악성 댓글 판별 정확도도 높인다.
 AI 악성 댓글 감지 시스템은 최근 들어 현실에 종종 적용되기 시작했다.
 국제올림픽위원회(IOC)는 지난 파리올림픽 기간 AI 기술을 통해 다양한 온라인 플랫폼에서 선수를 직접 겨냥한 온라인 학대 혐오 메시지 8천500건을 적발했다고 밝힌 바 있다. 
 토마스 바흐 IOC 위원장은 "선수들을 사이버 학대로부터 보호하기 위한 사전 예방적 AI 보호 도구를 제공할 것"이라며 "AI 도구는 선수와 관계자를 대상으로 하는 광범위한 모니터링을 제공, 욕설이 담긴 게시물을 자동으로 삭제한다"라고 설명한 바 있다.
 국내에서는 네이버가 지난 달 1분기 내 인명 사고 보도에서의 악성 댓글 감지 AI 기술을 '클린봇 옵서버'에 적용해 고도화할 예정이라고 발표한 바 있다.
 2023년 베타 서비스를 시작한 클린봇 옵서버는 악성 댓글 작성 시도 비율을 계산해 감지 대상 기사를 자동으로 선별하고, 해당 기사를 언론사에 알려주는 서비스다. 
 알림을 받은 언론사들은 빠르게 댓글 제공 중단의 필요성을 파악하고 중단을 결정할 수 있다. 제주항공 참사 당시 약 30개 언론사가 댓글 제공 중단 기능을 이용했다. 
 카카오 역시 유사한 시스템을 운영하고 있는데, 텍스트 분석뿐만 아니라 이미지 분석 기술까지 활용해 혐오 표현이 담긴 이미지나 '움짤'(GIF)까지도 필터링한다.
 AI 악성 댓글 감지 서비스는 해외에서는 더욱 다양한 방식으로 활용되고 있다.
 구글 자회사인 직소에서 개발한 퍼스펙티브(Perspective) API는 텍스트의 '독성'(toxicity)을 측정하는 AI 도구로, 공격성·불쾌감·도발성 등을 수치화한다.
 메타는 딥러닝 기반의 NLP를 통해 페이스북과 인스타그램에서 악성 댓글, 혐오 발언, 가짜 뉴스 등을 탐지하고 삭제한다. 또한 악성 댓글 작성자의 패턴을 분석하고 계정 정지 등 조처를 한다.
 엑스(X)도 자체 AI 알고리즘을 통해 트윗 맥락을 분석하고 악성 콘텐츠를 식별하고 있다.
 한정훈 K엔터테크허브 대표는 23일 "김새론 사태는 우리 사회에 악성 댓글 문제의 심각성을 다시 한번 일깨워주는 동시에, AI 기술을 활용한 해결 가능성을 제시했다"며 "AI 기반 악성 댓글 감지 시스템은 온라인 공간을 더욱 안전하고 건강하게 만들 수 있는 강력한 도구가 될 수 있다"고 강조했다. 
 lisa@yna.co.kr
 ▶제보는 카톡 okjebo
 </section> 
 </div> 
 Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기