[AI인사이트] 라온시큐어 박현우 AI 센터장 "일상 속 딥페이크, AI로 잡는다"

딥페이크 탐지 서비스 모바일 앱 출시…누구나 이용 가능

화상통화 등 실시간 영상 딥페이크 탐지 기능도 개발

여러 모델을 이용해 AI 학습…정확도 95% 달해

박현우 라온시큐어 AI연구센터장 [사진=라온시큐어]

"화상회의·영상통화 등 실시간으로 일어나는 비대면 상황에서 딥페이크를 활용한 피싱 사례가 증가하고 있어요. 이러한 상황에 대응해 인공지능(AI) 기술 기반의 딥페이크 탐지 솔루션을 개발하고 있습니다."

박현우 라온시큐어 AI연구센터장은 서울 여의도 라온시큐어 본사에서 기자와 만나 회사가 개발 중인 딥페이크 탐지 기술에 대해 이같이 밝혔다. 

모바일 인증 보안 분야 선두 주자인 국내 보안기업 라온시큐어는 모바일 보안과 연계된 딥페이크 탐지 기술 개발에 집중하고 있다. 그 일환으로 지난 20일 개인이 쉽게 딥페이크 여부를 체크할 수 있는 탐지서비스를 모바일 백신 앱 '라온 모바일 시큐리티'에 탑재했다. 이는 의심되는 영상이나 유튜브 링크를 업로드하면 딥페이크 여부를 탐지해 준다. 

모바일 앱을 통한 딥페이크 탐지는 물론, 실시간 화상통화에서 얼굴이나 목소리 진위 여부를 가려낼 수 있는 기술을 개발하고 있다. 

박 센터장은 "기존 피싱 공격에 딥페이크 기술이 포함되면 피해 규모가 3배 이상 증가할 것이란 조사가 있을 정도로, 실시간 영상에서 딥페이크를 활용한 피해 사례가 늘고 있다"면서 "딥페이크로 조작된 안면정보로 비대면 계좌 개설과 같은 금융 피해에서부터 회사 화상회의에서 딥페이크를 통해 대표나 직원을 사칭해 기업의 중요 정보를 유출하는 등 다양한 악용 사례가 발생하고 있다"고 밝혔다. 

이어 그는 "이에 대응해 실시간으로 딥페이크를 탐지할 수 있는 기술을 개발 중인데, 3월 중에 국내 최초로 선보일 예정"이라면서 "향후 이 기술의 소프트웨어개발자키트(SDK) 개발을 완료하고 통신사, 금융기관, 정부·공공기관 등에도 제공할 계획"이라고 전했다. 

회사는 딥페이크 탐지 정확도를 높이기 위해 AI 학습에 여러 모델을 동시에 이용하고 있다. 박 센터장은 "합성된 얼굴과 정상 얼굴을 각각 학습하고 이를 상호 비교해 분류할 수 있도록 AI를 학습시켰다"면서 "이미지부터 동영상, 안면 추출, 주파수 계열 변환 등 다양한 기술을 적용해 생성형 AI의 특징을 탐지한다"고 전했다. 눈·입모양 등 모양의 움직임이나, 특정 영역의 색 변화 등을 학습시키기 위해 모델 여러 개를 사용해 얼굴 형태나 움직임의 부자연스러움을 찾아내도록 한다는 것이다. 그 결과 탐지 정확도는 95%에 이른다고 회사 측은 전했다. 

박 센터장은 "딥페이크 생성 AI는 지속적으로 고도화되기 때문에 딥페이크 탐지 기술 역시 지속적인 고도화와 꾸준한 업데이트가 중요하다"면서 "보안기업으로서 새로운 공격패턴이나 악성행위가 발견되면 빠르게 방어할 수 있도록 AI 엔진을 업데이트하고 제품에 반영하는 데 익숙하다. 이러한 역량을 기반으로 향후 생성형 AI의 부작용 전체를 막을 수 있는 보안서비스 회사로 나아가겠다"고 강조했다. 

라온시큐어 AI연구센터는 지난해 별도의 조직으로 꾸려졌고, 보안개발 본부장이던 박현우 상무가 센터장 직을 맡아 이끌어오고 있다. 박 센터장은 딥페이크 탐지 개발 서비스를 비롯해 회사의 생성형 AI 관련 솔루션 개발을 총괄하고 있다. 보안개발 총괄 당시 △공개키 기반 인프라(PKI) △생체인증(FIDO) △암호모듈검증(CMVP) △사용자 단일인증(SSO) △모바일백신 등 개발을 이끌었다. 앞서 국가 모바일 신분증 구축에 활용된 분산 ID 플랫폼 '옴니원' 개발 총괄을 담당하기도 했다.