▲ 서울시, 사진은 오세훈 시장과 류희림 방송통신심의위원회 위원장이 딥페이크 신속대응을 위한 업무협약을 체결한 모습

서울시(오세훈 시장)와 방송통신심의위원회(류희림 위원장)는 텔레그램을 통한 딥페이크 성범죄 피해 방지를 위해 상호 협력하여 신속 대응하기로 하였다.

최근 중·고등학교, 대학가, 군인 등 딥페이크 영상 유포 문제가 확산되고 있으며, 텔레그램에 언급된 전국 피해 학교 400~500곳으로 추산되는 등 시민 불안이 증폭되고 있다.

이에 오세훈 서울시장과 류희림 방송통신심의위원회 위원장이 28일 긴급 회동하여 딥페이크 영상물을 신속하게 삭제하기 위해 지자체 최초로 방송통신심의위원회와 핫라인을 구축하는 것을 내용으로 하는 협약을 체결하였다.

우선, 폐쇄형 SNS 내에 있는 딥페이크 불법영상물이 성인사이트·사회적관계망서비스(SNS) 등 공개사이트에 유포될 경우 24시간 내에 신속하게 모니터링 및 삭제·차단될 수 있도록 조치한다는 계획이다.

기존에는 시 디지털성범죄안심지원센터에서 방심위에 삭제요청 할 때마다 각종 증빙자료를 제출해야 했으나 핫라인을 구축하게 되면 시스템으로 연계하여 대량 건수를 일시에 삭제 요청할 수 있게 된다.

시는 2022년 3월 서울디지털성범죄안심지원센터를 개소한 이래, 초기상담, 수사·법률·심리·의료 및 삭제지원 등 1,437명의 피해자를 원스톱으로 지원해왔으며 이중 딥페이크 피해자 총 72명에게 772건의 서비스를 지원한 바 있다.

이와 함께 서울시는 급증하는 딥페이크 범죄에 아동·청소년도 쉽고 빠르게 대응할 수 있도록 카카오톡 오픈채팅방에 ‘딥페이크 SOS 전담 상담창구’를 개설하고 피해지원관(2명)을 배치하여 신고방법 및 범죄 채증방법 등을 안내한다. 또한, 수사·법률지원 등 피해자에게 필요한 통합지원을 위해 서울 디지털성범죄 안심지원센터로 링크 연결되도록 한다.

시는 신고를 꺼리는 학생들도 익명으로 쉽게 상담할 수 있도록 카카오톡 오픈채팅방을 개설하고, 서울교육청을 통해 각 학교에 홍보하기로 했다.

SOS 전용 상담창구에서는 피해에 대한 신속하고 효율적인 상담 및 삭제 지원 등이 진행되며, 피해자에게 필요한 종합적인 내용을 안내하여 필요시 수사기관이나 의료기관에 동행하는 서비스도 제공한다.

시는 피해상황을 24시간 모니터링할 뿐 아니라 자동으로 삭제신고 하는 시스템을 연말까지 구축하고, 딥페이크 검출기술도 개발 적용하여 피해영상물 삭제지원 건수를 획기적으로 늘릴 계획이다.

서울시는 올해부터 AI로 피해영상물을 24시간 모니터링하고 있는데, 현재 AI가 모니터링한 내용을 상담원이 삭제신고하는 방식에서 AI가 검색 및 신고까지 전과정을 자동으로 수행하는 기술을 서울연구원과 협력하여 개발하고 있다.

특히 내년에는 AI를 기반으로 한 딥페이크 검출 기술 ‘서울 안심 아이(Seoul Safe Eye)’를 개발하여 딥페이크와 원본 사진·영상물을 구분해 검출해 나갈 계획이다. 이를 통해 현재는 제작된 기존 영상물이 있어야 유사성을 판별하여 유포된 영상물을 찾을 수 있는 것에 비해 획기적으로 피해 영상물을 검출할 수 있을 것으로 기대하고 있다.

또한, 경찰 조사를 통해 드러난 딥페이크 범죄혐의 전체 피의자 중 10대가 차지하는 비중이 75.8%로 드러난 가운데, 딥페이크를 호기심이나 장난으로 여기는 아동청소년을 대상으로 한 교육을 강화한다.

다가오는 9월부터 초·중·고등학교 대상 눈높이 ‘딥페이크 예방교육’을 50개 학급 1천 명 대상으로 실시한다. 주요내용은 딥페이크 위험성, 디지털 윤리 등이며 특히, 청소년 눈높이에 맞춘 보드게임 형식의 예방교육 프로그램을 신설하고, 성인대상 딥페이크 예방 영상물도 시 홈페이지에 게재할 예정이다.

아울러 시는 디지털성범죄 가해 아동청소년을 대상으로 재발방지 상담 및 교육을 1인당 14회기로 무료 실시하고 있는데, 딥페이크의 심각성을 강조하기로 한다.

오세훈 서울시장은 “오늘부터 이 시간부터 즉시 딥페이크 영상물을 신고받고 24시간 내 삭제하는 핫라인을 방송통신심의위원회와 함께 운영한다”며 “핫라인 구축을 통해 피해 영상물을 즉각적으로 삭제하고 피해자를 원스톱으로 지원하는 것은 전국 최초”라고 말했다. 이어 “올해 말까지 AI 기반 딥페이크 검출 기술과 자동 신고 시스템을 개발해 시간 단축, 삭제지원 건수 증가 등 시민들의 딥페이크 영상물 피해를 최소화하도록 노력하겠다”고 말했다.