AI도 틀릴 수 있어…설명 가능한 XAI로 판단 근거 밝혀
의료·헬스케어 활용 기대…AI의 '진단 근거' 정확히 설명

[서울=뉴시스]이수인 워싱턴대학교 컴퓨터공학과 교수가 9일 서울 양재동 과학기술회관에서 열린 세계한인과학기술인대회에서 '설명 가능한 AI'를 주제로 한 기조강연을 진행하고 있다. (사진=윤현성 기자)

[서울=뉴시스]윤현성 기자 = "인공지능(AI)도 실수를 할 수 있는데, 저는 이 AI의 실수에 초점을 두고 있습니다. 이른바 '설명 가능한 AI(XAI)'를 통해 왜 AI가 제대로 동작하지 않는지를 밝혀내고 그 실수를 보완할 수 있습니다."

이수인 워싱턴대학교 컴퓨터공학과 교수는 9일 서울 양재동 과학기술회관에서 열린 세계한인과학기술인대회 기조강연에서 이같이 말했다. 그는 복잡한 AI 알고리즘이 판단을 내리는 과정을 사람이 이해할 수 있게 만드는 기술, 이른바 설명 가능한 AI의 역할과 중요성에 대해 강조했다. 이 교수는 이같은 XAI 연구를 기반으로 삼성호암상 최초로 여성연구자로서 공학상을 수상하는 등 성과를 인정받은 바 있다.

XAI, '블랙박스'에 감춰진 AI의 결론 도출 과정 설명해줘…의료 분야 활용도 기대

XAI가 수백가지 입력값 분석해 질병 원인 등 진단…생물학적 나이도 정확히 분석

XAI는 AI가 '왜 그런 결론을 내렸는지'를 설명해주는 기술이다. 현대의 AI 모델은 워낙 구조가 복합해지면서 결론 도출 과정을 '블랙박스'라고 지칭할 정도로 전문가조차 이해하기 어려워졌다. 그래서 AI의 결론 도출 과정을 설명해주는 XAI가 중요하다는 것이다. 

이 교수는 이같은 점을 고려했을 때 헬스케어, 의료 분야처럼 사람 생명과 직결된 분야에서 XAI의 효용성이 더 크고, 그에 대한 연구에 집중했다고 설명했다. 의료 분야에서 AI를 활용할 경우에는 AI가 환자의 어떤 데이터를 보고, 어떤 이유로 진단을 내렸는지 알아야 하기 때문이다.

이 교수는 의료 분야에서의 XAI 활용 사례로 본인의 랩에서 연구했던 수술 중 저산소혈증(Hypoxemia)을 사전 예측하는 시스템을 언급했다. 산소포화도가 떨어지는 현상인 저산소혈증이 수술 중에 나타나면 수술 후 합병증이 발생하거나 심할 경우에는 사망까지 야기할 수 있다. 

이에 이 교수는 AI로 환자의 체중 및 BMI, 심박수 등 수십 가지 정보를 바탕으로 5분 뒤 저산소혈증 발생 확률을 예측했다고 설명했다. 여기에 XAI가 더해지면 '어떤 요인'이 '얼마나' 저산소혈증에 영향을 미쳤는지를 정량적으로 설명해준다. 예컨대 환자의 체중은 즉각 조절이 어렵지만, 산소를 공급하는 벤틸레이터 설정 등은 즉각 변경이 가능하므로 의료진이 실시간으로 대응할 수 있게 된다.

이 교수는 이같은 XAI 기반 시스템 활용 결과에 대해 "다수 의료진이 의료자료를 보고 저산소혈증 발생 여부를 판단한 것보다 XAI 시스템을 활용했을 때 약 240만건의 저산소혈증 데이터 발생 여부를 더 정확하게 예측할 수 있었다"고 설명했다.
이 교수는 XAI의 핵심 기법인 '샤플리 가산 설명(SHAP) 프레임워크'에 대해 소개하기도 했다. SHAP 프레임워크는 AI 모델의 출력값에 대해 각 입력값(Feature)이 얼마나 영향을 미쳤는 지를 분석해주는 기술이다. 예컨대 AI가 '이 환자는 치매 가능성이 높다'고 판단했다면 SHAP은 그 이유가 유전자, 혈압, 나이 등 중 어떤 항목에 얼마나 기인했는 지를 수치로 보여준다.

또 다른 사례는 '생물학적 나이(Biological Age)' 예측이다. AI 모델이 건강검진 정보나 라이프스타일 데이터 등을 기반으로 몸의 실제 나이를 계산해주는 것이다. 음주 및 흡연 여부, 운동량, 신장 기능 수치 등 800여개의 지표가 반영된다. XAI는 이 중 어떤 요인이 노화를 가속시켰는지를 설명해주며, 향후 건강관리 방향 설정에 기여할 수 있다.

XAI는 AI가 잘못 판단했을 때 원인을 역추적하는 데도 유용하다. 코로나 팬데믹 시기 등장한 X-레이 기반 진단 AI의 사례가 대표적이다. 이 교수에 따르면 팬데믹 기간에 코로나19 여부 감염을 판단하기 위한 AI 모델이 다수 등장했는데, 진단 정확도가 높지 않았다.

당시 일부 AI 모델은 정확한 폐 상태를 파악하지 못했다는 평가를 받았다. 가령 대상 환자가 페이스메이커 등 의료기기를 장착하고 있으면 이같은 변수를 고려하지 못했고, 다른 병원에서 촬영한 X-레이 데이터를 받아올 경우 오류가 발생하기도 했다.

시중에 출시된 피부암 진단 앱도 '부정확한 AI'의 영향을 받고 있다. 이들 앱은 피부 사진을 촬영해 등록하면 AI를 기반으로 피부 멜라노마 여부 등을 확인해준다고 소개하고 있다. 그런데 AI가 피부암이 아닌데 피부암이라고 판단하거나, 반대로 피부암인데도 피부암이 아니라는 결론을 내리는 사례가 나타났다.

이 교수는 이같은 피부암 진단 AI를 연구하며 생성형 AI를 접목한 새로운 XAI 방법론을 개발했다고 설명했다.

이 교수는 대표적인 5~6개의 피부암 예측 앱을 분석했는데, 대부분 정확도가 낮았고 설명 기능도 미흡했다. 하지만 기존 XAI 방식인 SHAP으로도 AI가 피부암을 판단하는 논리 구조를 정확히 파악하기 어려웠고, 이를 보완하기 위해 생성형 AI를 접목했다는 것이다.

이 방식은 피부 사진을 AI가 암이라고 판단하도록 만들거나, 반대로 암이 아니라고 판단하게끔 이미지를 조금씩 변형시키며 그 기준을 찾아가는 기법이다. 이렇게 다양한 이미지를 모은 뒤 변형 전후 이미지를 비교하면 어떤 시각적 특성이 AI의 결정에 영향을 줬는지를 시각적으로 확인할 수 있다.

이 교수는 “XAI와 생성형 AI 등이 의료의 미래를 어떻게 바꿔나갈 수 있는지를 말씀드렸다. 저희 랩에서는 다양한 XAI 기법과 이론들을 개발해서 여러가지 분야에 적용해나가고 있다"며 "궁극적으로는 AI를 활용해 알츠하이머 같이 약이 없는 질병에 대항할 수 있는 약을 개발해나가기 위한 연구 등을 해나가고 있다"고 말했다.

☞공감언론 뉴시스 hsyhs@newsis.com

Copyright © 뉴시스. 무단전재 및 재배포 금지.