이수인 교수 "AI도 실수할 수 있어…설명가능한AI로 보완 가능"

XAI, 바이오·의료 분야에서 활용

환자에게 적합한 해법 찾는데 유용

국가 차원 파운데이션 모델 개발 중요 역할

알고리즘 작동 설명할 수 있어

이수인 미국 워싱턴대학교 교수가 8일 서울 강남 한국과학기술회관에서 열린 인터뷰에서 포즈를 취하고 있다. [사진=나선혜 기자]

“인공지능(AI)이 복잡한 추론 과정을 거쳐 도출한 결과를 사람이 이해할 수 있도록 이야기하는 것이 '설명가능한 AI(XAI)'의 핵심입니다. XAI는 AI가 잘못된 판단을 내렸을 때 원인을 분석하고, 그 과정을 이해하기 쉽게 전달하는 보완재 역할을 합니다.”

이수인 미국 워싱턴대학교 교수가 8일 서울 강남 한국과학기술회관에서 열린 인터뷰에서 이같이 밝혔다. 

이 교수는 컴퓨터 구조 및 AI 반도체 분야 세계적 권위자다. 오는 10일까지 열리는 '2025 세계 한인 과학기술대회'에서 기조강연을 맡았다.

한국과학기술원(KAIST)에서 컴퓨터공학을 전공한 그는 지난 2001년 올랐다. 미국에서 생명공학 분야로 연구 영역을 확장했으며 현재는 다양한 AI 분야 중에서도 XAI에 집중하고 있다. 

그는 연구 범위를 확장하게 된 게기를 "DNA 등을 연구했을 때 새로운 약을 만들 수 있고 개인 맞춤형 연구를 할 수 있는 것이 당시 매력적으로 느껴졌다"고 했다. 

이어 "약 10년 전 의사와 함께 프로젝트를 할 때 그들이 환자의 상태를 듣고도 원인을 정확히 파악하지 못하면 쉽게 행동에 나서지 않았다"며 "현장에서 AI 활용할 때 원인을 설명할 수 있어야 한다고 생각했다"고 말했다. 

특히 그는 XAI가 바이오·의료 분야에서 더욱 활발히 활용돼야 한다고 강조했다. 의료진이 질병에 대한 방대한 정보를 바탕으로 환자에게 가장 적합한 해법을 찾는데 XAI가 유용하다는 의미다. 

이 교수는 "암 연구 등 의학에서 영향력 있는 부분에서 AI가 기여할 수 있다면 무조건 쓰여야 한다고 생각한다"고 했다. 

XAI는 특정 산업을 넘어 국가 차원 파운데이션 모델 개발 과정에서 중요한 역할을 할 수 있다고 덧붙였다. 이 교수는 "미국에서 파운데이션 모델을 만들 때, 편향되지 않게 만드는 것이 핵심"이라며 "XAI는 모델 알고리즘이 어떤 방식으로 작동하는지 설명할 수 있다"고 덧붙였다.

그러면서 "소버린(주권)AI도 좋지만, 우리나라 것만 강조하기 보다는 여러 외국의 유수 AI를 도입하는 것도 필요하다 생각한다"고 언급했다.  

아울러 이 교수는 AI를 비롯한 과학기술분야의 발전을 위해서는 장기적인 관점에서 투자가 필요하다고 조언했다. 그는 "단기적인 목표에 집중하기 보다는 장기적으로 결과를 생각해 과학기술에 투자하는 것이 중요하다"며 "시대가 요구하는 것들이 있고 그에 따른 과학기술 우대 문화가 중요하다고 본다"고 말했다.