【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]“AI가 개인정보 유출… 또다른 통로될 수도”

온카뱅크관리자

2026-06-26 04:37:29

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">독일 연구팀 유출 위험 분석 발표<br>학습 활용 여부로 질병 정보 특정<br>저소득층-소수 인종 더 잘 기억해</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="5ixy9MNd7w">
          <figure class="figure_frm origin_fig" contents-hash="9e44dad6c8a009d7322ad9bff5752601bce5bcf5dae88eedbb0b4e0737c2ebd8" dmcf-pid="1IDqowTszD" dmcf-ptype="figure">
           <p class="link_figure"><img alt="게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/26/donga/20260626043549353oyzb.jpg" data-org-width="1600" dmcf-mid="ZFHdhX717r" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/26/donga/20260626043549353oyzb.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            게티이미지뱅크
           </figcaption>
          </figure>
          <div contents-hash="2673011152a8548d583c65b5fb20c81eb5fb187887f5182a8e95761b48352ec0" dmcf-pid="tCwBgryOUE" dmcf-ptype="general">
           개인정보 유출 사고가 잇따르며 데이터 보안 우려가 커지는 가운데 의료 인공지능(AI) 모델 자체가 새로운 개인정보 침해 통로가 될 수 있다는 연구 결과가 나왔다. 공격자는 AI 모델을 분석해 특정 환자의 데이터가 AI 학습에 사용됐는지 알 수 있다. 특히 희귀질환 환자와 소수집단은 이런 공격에 더 취약한 것으로 분석됐다.
          </div>
          <p contents-hash="2f33bb69d3a20ee385167df05c1f12f603793c134cbf1b4ef8035661d9494617" dmcf-pid="FhrbamWIFk" dmcf-ptype="general">다니엘 뤼케르트 독일 뮌헨공과대(TUM) 교수팀은 의료 AI 모델의 개인정보 유출 위험을 분석한 결과를 국제학술지 ‘네이처’에 24일(현지 시간) 발표했다.</p>
          <p contents-hash="ad4e858597c46e069d12174779eda85d2ea6fc92c6aa4e1febdf7c0d9405d11f" dmcf-pid="3lmKNsYCuc" dmcf-ptype="general">연구팀은 ‘멤버십 추론 공격(MIA)’을 분석 대상으로 삼았다. MIA는 학습한 데이터에 더 자신 있는 예측을 내놓는 AI 모델의 특성을 활용한 공격이다. 공격자는 AI 모델의 확신도 차이를 통계적으로 분석해 특정 환자의 데이터가 학습에 포함됐는지 가려낸다. 모델이 내놓는 예측값만 확인하면 실행할 수 있어 정상적인 사용자로 위장한 누구라도 MIA를 비교적 쉽게 시도할 수 있다.</p>
          <p contents-hash="1a335fd58273673f85f5186443121e111d8580e366170ca1dcc526cfa74243da" dmcf-pid="0Ss9jOGh3A" dmcf-ptype="general">문제는 특정 환자의 데이터가 학습에 쓰였는지 알아내는 것만으로도 개인정보 유출 위험이 있다는 점이다. 예를 들어 암 환자 데이터를 모아 학습시킨 AI 모델이라면 특정인의 데이터가 학습에 쓰였다는 사실만으로 그 사람이 암을 앓고 있다는 정보가 드러나는 식이다.</p>
          <p contents-hash="f990d25453d9740eb0325f25ba872683dbf09bd1a9be70016a219c797c10978c" dmcf-pid="pvO2AIHl0j" dmcf-ptype="general">연구팀은 미국 스탠퍼드대병원, 하버드대 의대 등에서 나온 흉부 엑스레이, 피부질환 이미지, 안과 영상, 유방 촬영, 심전도, 응급실 전자의무기록 등 7개 임상 데이터 집합을 분석에 활용했다. 데이터 집합마다 모델 200개를 만들어 전체 환자 중 무작위로 절반을 뽑아 학습시켰다. 환자 한 명을 기준으로 보면 200개 모델 가운데 절반은 그 환자 자료를 학습했고 나머지 절반은 학습하지 않았다. 연구팀은 두 그룹 모델의 확신도 값을 비교해 환자 개개인의 위험도를 계산했다.</p>
          <p contents-hash="4d597be0c2f7198bac2c4deda2d2a9654f69cd0765aab5f268e500ad0ba3a199" dmcf-pid="UTIVcCXSuN" dmcf-ptype="general">그 결과 데이터 집합 전체 평균으로는 공격 성공률이 무작위 추정과 큰 차이가 없어 위험이 낮아 보였다. 하지만 환자별로 분석하자 일부 환자는 자료가 학습에 쓰였는지를 공격자가 완벽하게 맞혔다.</p>
          <p contents-hash="325e8057a02bd4cc41f651828afcdc638d0d00952c83c7a7114e47d3284551ee" dmcf-pid="uyCfkhZvua" dmcf-ptype="general">모델 크기가 커질수록 위험도 커졌다. 피부질환 데이터 집합에서는 모델의 크기를 키우자 공격자가 정확히 맞히는 환자 비율이 1만 명 중 1명에서 10명 중 1명까지 늘었다. 진단 성능과 개인정보 유출 위험이 함께 커진 셈이다.</p>
          <p contents-hash="e5eae9d9486c3305471e61a45a0de84ecd1a5f670ad2dc8af2e7861879b95f11" dmcf-pid="7Wh4El5T7g" dmcf-ptype="general">특히 개인정보 유출 위험은 환자 집단마다 다르게 나타났다. 연구팀은 공격에 가장 취약한 상위 1% 데이터를 뽑아 분석했다. 그 결과 희귀질환 환자, 소수인종, 저소득층 의료보험 대상자가 전체 데이터 내 비중보다 개인정보 유출 위험군에서 훨씬 많이 발견됐다. 응급실 전자의무기록에서는 흑인 환자 데이터가 전체 비중보다 31% 더 많이, 저소득층 공공보험인 메디케이드 가입자 데이터는 126% 더 많이, 암 진단 환자 데이터는 18% 더 많이 위험군에서 발견됐다. 연구팀은 전체 데이터에서 비중이 작은 집단일수록 그 특징을 AI 모델이 뚜렷하게 기억해 개인정보 유출 위험이 커진다고 분석했다. </p>
          <p contents-hash="09919d12fe85095c06a9830efd4d6e3ee4b834ae91ab5726eaf9b284b7068c3a" dmcf-pid="zSeGfdcnFo" dmcf-ptype="general">연구팀은 대응책으로 ‘차분 프라이버시’ 기술을 제시했다. 학습 과정에 무작위 잡음을 더해 전체 진단 패턴을 학습하면서도 개인별 자료의 흔적을 흐리게 만드는 방식이다. 한 환자가 여러 건을 제공한 경우 데이터 단위가 아닌 환자 단위로 보호 기준을 적용해야 효과가 있다고 밝혔다. 연구팀은 “의료 AI 모델을 도입하기 전에 공격자가 알아낼 수 있는 민감 정보부터 점검해야 한다”며 “위험이 큰 모델에는 검증된 보호 기술을 적용하거나 이용 권한을 엄격하게 제한해야 한다”고 덧붙였다.</p>
          <p contents-hash="b2cc51cc7efceec7c424cfb48e0f0b4d58cd31dfc4ce5c843bb544f4a403b526" dmcf-pid="qvdH4JkLFL" dmcf-ptype="general">조가현 동아사이언스 기자 gahyun@donga.com </p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 동아일보. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기