이수인 워싱턴대 교수

이수인 워싱턴대 컴퓨터과학·공학과 교수. 이채린 기자

"인공지능(AI) 기술이 발달하면서 ‘설명 가능한 AI(XAI)’처럼 새로운 AI 연구 분야가 계속 생겨나고 있습니다. AI 분야에서도 장기적인 연구에 투자해야 이런 경쟁력 있는 분야가 나오고 선도할 수 있습니다. 국가가 주도하는 AI 펀딩이 중요한 이유입니다."

'2025 세계 한인 과학기술인대회' 참석 차 한국을 찾은 이수인 워싱턴대 컴퓨터과학·공학과 교수가 서울 강남구 한국과학기술단체총연합회(과총) 사무실에서 8일 기자들과 만나 AI 분야 투자의 중요성을 언급하며 이렇게 말했다. 세계적으로 XAI 분야를 이끌고 있는 이 교수는 9일 세계 한인 과학기술인대회 기조강연자로 선다. 이 교수는 지난해  ‘2024 삼성호암상’ 공학상을 여성 최초로 수상했다. 

XAI는 일종의 AI '블랙박스'다. AI의 판단 과정을 사람이 이해할 수 있도록 설명해주는 기술이다. AI가 전 분야에 적용되며 떠오르고 있는 분야 중 하나다. 특히 의료, 금융, 법률 등 설명 책임이 중요한 분야에서 중요하게 사용된다. 

이 교수는 2017년 스콧 M. 룬드버그 워싱턴대 교수와 함께 XAI 기술 중 하나인 ΄샤플리 가산 설명법(SHAP, SHapley Additive exPlanations)΄ 방법론을 개발해 학계의 주목을 받았다. SHAP은 AI 판단에 영향을 준 각 변수를 플레이어로 보고 변수가 예측값에 얼마나 기여했는지를 공정하게 나누어 평가하는 기술이다. 

이 교수는 "AI는 실수를 아직 많이 한다"며 "XAI는 AI 실수에 주목하는 연구"라고 말했다. 예를 들면 피부를 촬영해 피부암인지 아닌지를 진단하는 어플에 XAI를 적용하면 왜 AI가 피부암이라고 진단했는지 설명할 수 있다. 이 교수는 "AI가 어떤 실수를 했는지, AI 실수를 어떻게 해결해야 하는지 힌트를 주는 데 XAI가 사용된다"고 설명했다. 

특히 이 교수는 XAI를 바이오, 의학에 접목한 연구를 하고 있다. 이 교수는 서울과학고를 2년 만에 수료하고 입학한 KAIST 3학년 때부터 AI를 연구했다. 이후 미국 스탠퍼드대 박사 과정 시절 ‘유전자 시퀀싱 데이터’ 같은 생물학적 빅데이터가 속속 나오면서 바이오에 AI를 적용할 수 있다고 생각했다. 

이 교수는 "노화와 알츠하이머 문제에 관심이 많다"며 "알츠하이머는 환자뿐 아니라 주변 가족에게도 큰 영향을 주는 질병이기 때문에 AI로 알츠하이머를 치료할 수 있는 실마리를 제공하는 파급력이 큰 연구를 하고 싶다"고 말했다. 

이 교수는 XAI가 발전 가능성이 큰 분야라고 강조했다. 이 교수는 "미국에서 생물학적 나이를 판단하는 서비스를 제공하는 스타트업이 XAI 기술을 활용하고 있는 등 여러 사업에서 XAI를 적용하는 시도가 이뤄지고 있다"며 "한국에서도 반도체 연구 과정에서도 SHAP을 이미 활발히 쓰고 있다"고 말했다.  

이 교수는 이런 새로운 AI 분야가 계속해서 나오기 위해서는 국가 중심의 장기적인 펀딩이 중요하다고 생각한다. 그는 "AI는 1년 후가 예측이 안 될 정도로 기술이 계속 발전하고 있기 때문에 단기적인 투자보다는 장기적인 결과를 얻기 위한 투자가 중요한 분야다"며 "국가 펀딩이 탄탄히 뒷받침 해줘야 연구자들이 새로운 연구를 계속할 수 있다"고 강조했다. 

[이채린 기자 rini113@donga.com]

Copyright © 동아사이언스. 무단전재 및 재배포 금지.