최근 딥페이크(Deepfake) 기술을 활용한 허위 영상물 관련 성범죄가 현저히 증가함에 따라, 경찰이 딥페이크 여부를 판별하는 시스템의 고도화를 추진하고 있는 것으로 파악되었습니다.

17일 국회 행정안전위원회 소속 이광희 의원실이 경찰청으로부터 제출받은 자료에 따르면, 전국에서 발생한 연도별 딥페이크 성범죄는 2021년 156건, 2022년 160건, 2023년 180건, 2024년 1202건, 그리고 2025년 1월부터 9월까지 1318건으로 집계되어 가파른 증가세를 보이고 있습니다.

딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로, 딥러닝 기술을 활용한 인간 이미지 합성 기술을 의미합니다. 딥페이크 성범죄에는 허위 영상물뿐만 아니라, 딥페이크 기술로 편집 및 합성된 아동성착취물 또한 포함됩니다.

2024년부터 딥페이크 성범죄 건수가 폭증한 배경에는 실제 범죄 발생 증가 요인과 더불어, 해당 연도부터 경찰의 사이버수사 분야는 물론 여성청소년수사 등 다양한 분야에서 관련 사건들을 수사 범위에 포함한 영향도 있었던 것으로 분석됩니다.

경찰은 현재 딥페이크 성범죄 수사를 위해 탐지 소프트웨어를 활용하고 있습니다. 이 소프트웨어는 딥페이크로 의심되는 영상을 업로드할 경우 10분 이내에 진위 여부를 판별하여 결과 보고서를 제공합니다. 2024년 3월부터 금년 9월까지 총 689건의 영상물이 이 소프트웨어를 통해 탐지되었습니다.

다만, 경찰은 해당 소프트웨어의 탐지율이 100%가 아닌 점을 감안하여, 이를 직접적인 증거 자료로 활용하기보다는 수사 방향을 설정하는 참고 자료로 운용하고 있습니다.

이에 경찰은 딥페이크를 포함한 허위 조작 콘텐츠의 진위 여부를 판별하는 신규 시스템 개발에 착수하였습니다. 올해 4월 시작된 이 연구개발(R&D) 사업은 2027년 12월에 완료될 예정이며, 금년에만 27억 원의 예산이 배정되었습니다.

본 사업의 목표는 생성형 인공지능(AI) 기반 허위 조작 콘텐츠(딥페이크, 딥보이스, AI 생성 뉴스 등)의 탐지 및 추적 기술을 고도화하는 것입니다.

기존 소프트웨어의 판별 정확도는 딥보이스 91.54%, 딥페이크 이미지 84.51%, 딥페이크 영상 81.85% 수준이었으나, 경찰은 이를 각각 95% 이상, 90% 이상, 90% 이상으로 향상시킨다는 계획입니다. 또한, AI 생성 뉴스를 탐지 및 추적하는 기술은 아직 초기 단계이나, 85% 이상의 정확도 달성을 목표로 개발 중입니다.

경찰은 본 사업이 종료되는 2027년 말, 그 결과에 따라 신규 시스템의 상용화 및 도입 시기를 결정할 방침입니다.