【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI시대 ‘온라인안전’ 기준 방향은?…서비스 기업 책임 넓어지나

온카뱅크관리자

2026-09-23 16:57:26

<div id="layerTranslateNotice" style="display:none;"></div> 개별 콘텐츠 삭제·차단서 위험평가·완화 체계로 전환 논의 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="9IwpRtoMTf">
 <figure class="figure_frm origin_fig" contents-hash="b0742fef6c5a51b7cd669fcd3ed46f6166cf8c94a9af30f2ba14fac94122295a" dmcf-pid="2CrUeFgRvV" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/23/552796-pzfp7fF/20260923165215428nfht.jpg" data-org-width="640" dmcf-mid="KmJTBh4qv4" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/23/552796-pzfp7fF/20260923165215428nfht.jpg" width="658">
 </figure>
 [디지털데일리 오병훈기자] 인공지능(AI) 등장으로 새로운 형태 콘텐츠가 쏟아지고 있는 상황에 맞춰 온라인 안전 규제 기준도 달라져야 한다는 목소리가 나온다.
 상윤모 연세대학교 언론홍보영상학부 교수는 23일 국회의원회관에서 열린 ‘한국형 온라인안전법 입법 방향과 쟁점: 시민사회의 관점’ 토론회에서 기존 행정기관 중심 통신심의 체계를 서비스 기업 책임 중심으로 전환할 필요가 있다고 역설했다.
 정부가 개별 불법·유해 콘텐츠를 찾아 삭제·차단하는 방식에서 벗어나 온라인 서비스 기업이 서비스 운영 과정에서 발생할 수 있는 위험을 사전에 평가하고 줄이는 체계로 전환해야 한다는 시각이다.
 한국형 온라인안전법은 국회 과학기술정보방송통신위원회 소속 이주희 의원(더불어민주당)을 중심으로 논의되고 있는 법안이다. 온라인 서비스 책임 대상과 범위를 구분해 보다 체계적인 안전망을 확보하겠다는 취지다.
 상 교수는 “플랫폼이 1차적인 책임을 지도록 하고 정부는 그것을 감독하는 체계로 전환하자는 것”이라며 “그러한 과정에 공동규제 부분들이 많이 포함될 수 있다”고 말했다.
 현재 정보통신망법 체계에서는 불법·유해정보가 유통된 뒤 개별 콘텐츠를 심의하고 삭제·차단하는 사후 조치가 중요한 역할을 한다. 상 교수는 온라인에 유통되는 콘텐츠 양과 형태가 급증한 상황에서 이러한 개별 심의 방식만으로 이용자 보호를 담당하는 데 한계가 있다고 봤다.
 대안은 서비스 기업이 1차적인 안전관리 책임을 지는 방식이다. 신고 접수와 조치, 이용자 통지, 이의제기 등 자체 안전 시스템을 구축하고 정부는 해당 시스템이 제대로 운영되는지를 감독하는 구조다. 온라인 서비스의 규모와 특성이 제각각인 만큼 일률적으로 동일한 의무를 적용하기보다 서비스 종류와 이용자 규모 등에 따라 책임을 달리하는 방식도 제시됐다.
 상 교수는 “이용자들이 삭제나 차단 조치에 이의를 제기할 수 있어야 하고 그 전에 그러한 조치가 있을 때 이를 상세하고 이해하기 쉬운 방식으로 통지해야 한다”며 “신고에 대한 조치와 다툼이 있을 경우 분쟁을 조정하는 부분이 핵심이 될 것”이라고 말했다.
 특히 AI 시대에는 이 같은 ‘시스템 중심 규제’ 필요성이 더 커질 수 있다는 것이 전문가들 분석이다. 기존 온라인 서비스에서는 이용자가 만든 게시글이나 영상의 불법·유해성을 판단하는 것이 주요 과제였다. 하지만 생성형 AI 서비스에서는 서비스 기업이 구축한 AI 모델과 추천·대화 시스템이 이용자에게 직접 콘텐츠를 생성해 제공한다.
 AI 서비스는 어떤 답변 하나를 삭제한다고 문제가 끝나는 것이 아니라는 것이 전문가들 시각이다. 이용자의 연령을 어떻게 확인할지, 청소년에게 어떤 형태의 대화를 허용할지, 장시간 사용이나 정서적 의존 가능성을 어떻게 줄일지 등 서비스 구조와 운영정책 자체가 안전 문제로 연결된다.
 유럽연합(EU) 디지털서비스법(DSA)도 개별 콘텐츠 삭제에만 초점을 맞추지 않는다는 것이 상 교수 분석이다. 서비스 유형과 이용자 규모에 따라 의무 수준을 달리하고, 대규모 온라인 서비스 기업에는 위험평가와 위험완화, 연구자에 대한 데이터 제공 등 강화된 책무를 적용하는 방식이다. DSA 자체가 새로운 불법정보의 범위를 정하기보다는 서비스 기업이 위험에 어떻게 대응하고 관리하는지를 규율하는 데 무게를 둔다는 설명이다.
 상 교수는 “위험 평가와 위험 완화 조치 같은 부분들은 대규모 온라인 플랫폼에 적용되고 데이터 연구자들에 대한 데이터 공유도 대규모 온라인 플랫폼에 적용되고 있다”며 “차등적인 의무 부과가 핵심”이라고 말했다.
 이러한 접근을 국내에 적용한다면 AI가 생성한 특정 답변 하나하나를 정부가 직접 심의하는 방식보다 AI 서비스 기업이 유해한 결과물이 반복적으로 만들어질 가능성을 평가하고 이를 줄이기 위한 안전장치를 갖췄는지를 살피는 방식으로 규율 체계가 확대될 수 있다.
 청소년 보호는 향후 법안 구성 과정에서 주요 쟁점이 될 전망이다. 단순히 일정 연령 이하 이용자의 서비스 접근을 차단할 것인지, 서비스 기업이 청소년에게 안전한 기능과 이용환경을 별도로 설계하도록 할 것인지부터 논의가 필요하다. 소셜미디어만 대상으로 삼을 것인지 AI 챗봇과 캐릭터챗까지 규율 대상으로 포함할지도 결정해야 한다.
 상 교수는 “소셜미디어에 한정을 할지 아니면 계속 기술이 발전하기 때문에 AI 챗봇 서비스 같은 경우도 포함을 할지, 온라인 서비스 제공자 중 어느 범위까지 포섭 대상으로 할지 논의가 필요하다”고 말했다.
 결국 AI 시대 온라인안전 규율의 초점은 ‘어떤 콘텐츠를 지울 것인가’에서 ‘서비스 기업이 위험을 어떻게 찾아내고 줄일 것인가’로 이동하는 모습이다. 불법 콘텐츠에 대한 신속한 삭제·차단 체계는 유지하되 AI 캐릭터챗처럼 기존 법제가 예상하지 못한 새로운 서비스까지 포괄하려면 위험평가·완화, 이용자 이의제기, 청소년 보호 설계 등을 하나의 안전관리 체계로 연결하는 것이 과제가 된다.
 법안을 준비 중인 이주희 의원도 정보통신망법 개정을 온라인 안전 법제 개편을 위한 ‘1단계’로 규정했다. 현행법에 개별 규제를 추가하는 방식에 머무르지 않고 디지털 안전과 이용자 보호를 중심으로 법체계를 재구성하겠다는 구상이다.
 이 의원은 “10월 국감 이후 구체적인 법안을 가지고 추가 의견을 듣는 시간을 꼭 마련하겠다”며 “이해관계자들 간 입장 차이가 분명히 있을 것이고 모든 내용을 최종 법안에 다 수용하지 못할 수도 있지만 타협할 수 있는 접점을 찾을 수 있도록 힘을 합쳐야 한다”고 강조했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기