【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]국민 참여로 AI 오류·오남용 찾는다…'AI 안전 지킴이' 발족

온카뱅크관리자

2026-11-12 13:47:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="U8lJkS5TIa">
          <figure class="figure_frm origin_fig" contents-hash="6afa1c8eba3a5f37cdb60f509aedfcc729dbf91b228f9ea2cf2508ddff1100be" dmcf-pid="u6SiEv1yOg" dmcf-ptype="figure">
           <p class="link_figure"><img alt="생성형 AI 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/etimesi/20261112134241229lgej.png" data-org-width="700" dmcf-mid="p2uIH74qsN" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/etimesi/20261112134241229lgej.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            생성형 AI 이미지
           </figcaption>
          </figure>
          <p contents-hash="1f8128d7c4e03301f06d7927bc56ac157d60da9a29ddb877a130c37144f6f7dc" dmcf-pid="7PvnDTtWOo" dmcf-ptype="general">생성형 서비스 등 인공지능(AI) 오류·오남용 여부를 국민이 모니터링으로 찾아낸다.</p>
          <p contents-hash="ab1590b765a3ff464eee1c092488b63f31f418edd8f2c73978958e228b82e6ac" dmcf-pid="zQTLwyFYrL" dmcf-ptype="general">과학기술정보통신부가 인공지능안전연구소와 12일 서울 여의도 글래드 호텔에서 AI 안전 국민 모니터링단 'AI 안전 지킴이' 발대식을 개최했다.</p>
          <p contents-hash="0bcd7ff3de58ee36f251506607d44d812dfdf3c4a61747779280702e33635f6f" dmcf-pid="qxyorW3GIn" dmcf-ptype="general">국민이 직접 AI 오류 등을 상시적으로 찾아내고 제보할 수 있는 체계가 필요하다는 차원에서 지난 8·9월 공개 모집으로 지원한 138명 중 80명을 선발, AI 안전 지킴이 운영을 시작한다.</p>
          <p contents-hash="8c1f029e5c475e3ef1c96cb27c465e3528c268af51a17e4e0ced028500ea7977" dmcf-pid="BMWgmY0HEi" dmcf-ptype="general">10대 고등학생부터 60대 이상까지 폭넓은 연령층이 참여한다. 직장인·가사종사자·프리랜서·학생 등 다양한 분야 국민이 함께한다. 지킴이들은 내년 8월까지 AI 오류·위험 사례를 찾아내는 등 국민이 일상에서 AI를 안전하게 믿고 사용할 수 있는 환경을 만드는 데 앞장설 예정이다.</p>
          <p contents-hash="8a76810bc72b468281b056e7f1c533cb48de5abca5897c2016ecb08cd77a4aa1" dmcf-pid="b5n78LDgOJ" dmcf-ptype="general">모니터링 분야는 생성형 AI 4대 중점 분야 오류와 위험 사례다. 잘못된 사실·수치·날짜·인물 정보를 사실처럼 생성하는 환각은 물론, 특정 집단에 대한 고정관념·비하·불공정한 판단 등 편향과 차별, 안전장치 우회나 개인·민감정보 노출 위험 등 보안 취약점, 무응답·같은 답변 반복 등 기술 결함을 찾는다.</p>
          <p contents-hash="782743b1098f5d65341926db1877f8d98805278b9f415f97855637db7eb8e972" dmcf-pid="K1Lz6owawd" dmcf-ptype="general">AI안전 지킴이가 제보한 사례는 정확성, 위험도, 재현 가능성, 활용 가능성 등 유효성 검증을 거쳐 오류 여부가 확정된다. 확정된 사례는 AI 안전성 평가와 위험 연구 기초 자료로 활용된다. 과기정통부와 AI안전연구소는 관련 기업에 사례를 공유하는 등 AI 기업과 소통도 지속할 계획이다.</p>
          <p contents-hash="b9b82260f7787e35393e8fe397ddb831ade7c2b654556ade8ef325cdc50d4ffe" dmcf-pid="9toqPgrNre" dmcf-ptype="general">국민 참여를 통한 AI 오류·오남용 사례 확인 효과는 이미 입증됐다. 과기정통부와 AI안전연구소가 지난해 12월부터 30여일간 운영한 국민 참여 '정보 오류 없는 찐 AI 챌린지' 캠페인이 대표적이다.</p>
          <p contents-hash="e408c1e4c4be78f40f0b17e861e1f86b5c533aa69a26543eeb21b1b41a0edc82" dmcf-pid="2FgBQamjOR" dmcf-ptype="general">해당 캠페인 기간 총 625건의 오류 사례가 접수됐으며 이 중 464건이 유효한 오류 사례로 확인됐다. 틀린 것을 바로 잡은 것은 물론, AI 안전·신뢰에 대한 국민들의 높은 관심까지 확인됐다.</p>
          <p contents-hash="e80e73e1cec2d7f31bd35ad0678c3572f1032a2a101e548c45326fb6f0f3dcdb" dmcf-pid="V3abxNsAwM" dmcf-ptype="general">엄열 과기정통부 인공지능정책실장은 “AI가 남녀노소 누구나 사용하는 우리 일상이 된 만큼 이를 안전하게 사용할 수 있는 환경은 우리 모두가 함께 만들어가야 한다”며 “AI 안전 지킴이가 국민 눈높이에서 찾아낸 오류 하나하나가 모여 더욱 안전한 AI를 만드는 데 소중한 밑거름이 될 것”이라고 말했다.</p>
          <p contents-hash="f8e63c7d5362cfef36764f48a542074c0eb840f86f951e9b24508873c7ccea5f" dmcf-pid="f0NKMjOcwx" dmcf-ptype="general">이날 AI 발대식에는 엄 실장을 비롯해 김명주 AI안전연구소 소장, AI 안전 지킴이 등 50여명이 참석했다. 행사는 위촉장 수여, 운영계획 안내, 대표 지킴이 소감 발표 순으로 진행됐다. 행사 이후에는 AI 안전 지킴이 대상 오류 사례 발굴 방법과 제보 기준을 다루는 교육이 이어졌다.</p>
          <p contents-hash="1ee6f64832ee3d8a2921151563756bd39bc1c2ee6422674ec9ed8c47b07448af" dmcf-pid="4pj9RAIkrQ" dmcf-ptype="general">박종진 기자 truth@etnews.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기