“한국 정부가 ‘소버린 인공지능(AI)’을 강조하고 있는데, 이를 위해서는 ‘설명 가능한 AI(XAI)’가 필요하다.”

세계 한인 과학기술인대회 기조연설을 맡은 이수인 워싱턴대 교수가 지난 8일 한국과학기술회관 1관 집현실에서 인터뷰를 하고 있다. 우상조 기자

이수인 미국 워싱턴대 컴퓨터과학및공학과 교수는 지난 8일 서울 강남구 한국과학기술회관에서 진행한 그룹 인터뷰에서 이같이 밝혔다. 그는 세계한인과학기술인대회 기조강연을 위해 방한했다.

설명 가능한 AI는 복잡한 AI 모델의 추론 과정과 결과를 사람이 이해할 수 있게 만드는 기술이다. 일반적인 AI는 내부 과정을 이해할 수 없는 ‘블랙박스’처럼 작동하지만, 설명 가능한 AI는 어떤 입력값이 어떤 판단을 이끌어냈는지를 투명하게 설명해준다. 이는 의료, 법률, 생명과학 등 고위험 분야에서 AI의 실질적인 활용을 가능하게 한다.

한국 정부는 ‘AI 3강 도약’을 목표로 국내 자체 AI 파운데이션(기반) 모델 및 생태계를 개발하는 소버린 AI 개발에 주력하고 있다. 이 교수는 “소버린 AI의 개발은 매우 중요한 일”이라며 “자체 파운데이션 모델을 만들면서 노하우와 전문성을 내재화하고, 외부 기술을 들여올 때 더 효과적으로 받아들일 수 있다”고 말했다. 이어 “파운데이션 모델의 편향성을 줄이고 공정성(fairness)를 높이기 위해서라도 설명 가능한 AI가 있어야 한다”며 “뇌에서도 어떤 부분이 시각을 담당하고 있는지 아는 것처럼, 모델에서도 어떤 부분이 어떤 결과를 도출하는지 설명 가능한 AI로 알아내는 과정에서 파운데이션 모델을 더 발전시킬 수 있다”고 덧붙였다.

이 교수는 AI의 판단 및 예측 과정을 이해하고 결과를 설명하는 XAI 분야 방법론 중 하나인 'SHAP' 개발에 기여한 AI 석학이다. 지난해 여성 최초 공학 부문 삼성호암상을 수상하기도 했다. 이 교수는 설명 가능한 AI가 필요한 사례로 피부암 진단 AI를 언급했다. 그는 “피부 사진을 넣으면 AI가 피부암인지 아닌지를 판단한다. 하지만 때로는 피부암을 놓치거나 오진하는 경우가 발생한다”며 “설명 가능한 AI의 방법론 중 하나인 ‘SHAP’는 이러한 결과에서 어떤 이미지 영역이 AI의 판단에 영향을 미쳤는지를 설명해준다”고 말했다. SHAP은 이 교수가 개발한 설명 가능한 AI의 대표적 방법론으로, 이론적으로 탄탄한 기반을 갖춰 학계와 산업계에서 널리 활용되고 있다.

이 교수는 설명 가능한 AI를 바이오·헬스케어 분야에 집중적으로 적용하고 있다. 특히 알츠하이머와 암 연구에서 AI가 유전자 정보를 해석해 질병 경로를 밝히고, 나아가 신약 개발로 연결되도록 돕는 역할을 한다고 강조했다. 그는 “알츠하이머는 사망원인 10위 안에 들면서도 치료제가 없는 병”이라며 “방대한 생체 데이터를 AI로 분석해 유의미한 유전적 원인을 찾고, 이를 설명 가능한 방식으로 이해해야 약을 설계할 수 있다”고 말했다.

이 교수는 AI에 대한 국가적 투자가 필요하다고 역설했다. 그는 “AI가 진정한 기술이 되기 위해서는 이론적 기반이 필요하며, 이를 위해 정부의 기초과학 투자와 장기적 펀딩이 중요하다”고 강조했다. 이어 “기초연구에 대한 국가적 투자와 문화적 우대가 결국 AI 경쟁력을 결정짓는다”고 말했다.

■ 더중앙플러스 : 팩플

「 더 자세한 기사 내용이 궁금하시다면, 기사 링크를 복사해 주소창에 붙여넣으세요.

퍼플렉시티 추천에 간택됐다, AI 검색에 걸린 韓기업 전략 
검색의 시대, 검색 결과 상단 노출을 위해 치열한 마케팅 경쟁을 벌여 온 이들의 전장(戰場)이 서서히 옮겨가고 있다. 구글, 네이버 검색 대신 이들이 향한 곳은? 챗GPT나 제미나이, 퍼플렉시티 등 ‘인공지능(AI) 검색’ 판이다. 앞서 가는 마케터들 사이에선 최근 AI의 ‘간택’을 받을 수 있게 콘텐트를 작성하는 비기(祕器), ‘답변엔진최적화(AEO)’가 뜨고 있다. 마케팅을 전공하지 않아도, AI를 잘 몰라도 누구든 한 번에 이해할 수 있는 AEO 실전 활용법을 담았다. 
https://www.joongang.co.kr/article/25347026 
」

김남영 기자 kim.namyoung3@joongang.co.kr

Copyright © 중앙일보. 무단전재 및 재배포 금지.