경찰청 국가수사본부가 딥페이크 탐지 소프트웨어를 개발해 범죄 단속에 활용한다고 5일 밝혔다.

경찰에 따르면, 새로 개발한 소프트웨어에 영상을 올리면 통상 5~10분 이내에 딥페이크 영상 여부를 판별할 수 있다.

판별이 완료됨과 동시에 결과 보고서를 즉시 만들어내 수사에 곧바로 활용할 수 있다는 게 경찰 측 설명이다.

한국인을 대상으로 한 합성 영상의 탐지율이 높다는 것도 특징이다. 기존 탐지 모델 대다수는 해외에서 서양인 위주의 데이터로 제작돼 국내에서 활용하기에 적합하지 않은 면이 있었다.

새 모델은 한국인 데이터 100만건, 아시아 계열 인종 데이터 13만건을 포함해 총 520만건의 데이터를 학습했다. 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.

새 프로그램의 진위 탐지율은 약 80%다. 경찰은 탐지율이 100%가 아닌 점을 감안해 증거 자료보다는 수사 방향을 설정하는 자료로 활용한다는 방침이다. 딥페이크 영상과 관련된 선거범죄에 대해서는 학계, 기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 별도로 거쳐 해당 소프트웨어의 오탐지 가능성을 최소화할 예정이다.

경찰청 관계자는 “향후 더욱 정확한 탐지가 이뤄지도록 해당 소프트웨어를 고도화할 것”이라며 “선거범죄와 합성성착취물 범죄 등 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 밝혔다.