방송통신심의위원회(이하 방심위)가 인공지능(AI) 기술을 악용한 딥페이크 음란물 제작 및 유포 사건이 확산하자 긴급 전체 회의를 소집하고 대책 마련에 나섰다.

방심위는 이날 딥페이크 사태와 관련해 긴급 전체 회의를 소집하고 텔레그램을 포함한 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하는 등 종합 대책을 논의했다.

국내 주요 포털사이트는 물론 페이스북, X(엑스), 인스타그램, 유튜브 등 글로벌 사업자들과 협의체를 구성해 신속한 영상 삭제 차단 조치와 자율적인 규제를 강력히 요청할 계획이다.

해외에 서버가 있는 글로벌 온라인 플랫폼 사업체 중 국내 공식 협의체가 없는 사업체에 대해서는 면대면 협의 채널을 끌어내 상시적인 협의가 될 수 있도록 추진한다.

현행법과 심의 규정 미비로 디지털 성범죄 영상물의 제작이나 소지, 유포 등에 대한 처벌이 미약해 관련 범죄가 확산하고 있다는 지적에 대해서는 보완 입법을 관계기관에 건의하기로 했다.

방심위는 지난 27일부터 디지털 성범죄 신고 전화(1377) 기능을 강화해 상담원이 24시간 접수 및 상담할 수 있도록 했다.

홈페이지에도 딥페이크 성범죄 영상물 신고 전용 배너를 별도로 설치해 놓은 상태다.

방심위는 딥페이크 성범죄 영상의 주요 유포 경로인 텔레그램 등 주요 소셜미디어(SNS)에 대한 자체 모니터링을 통해 신속하게 적발하고 향후 모니터 인원 등 전담 인력을 늘릴 계획이다.

이와 함께 영상 삭제 차단 조치와 관련해 24시간 이내 영상이 사라질 수 있도록 시정을 요구하고, 악성 유포자는 즉각 경찰에 수사를 의뢰할 방침이다.

류희림 방심위원장은 "딥페이크 성범죄 영상의 제작과 소지, 유포는 개인의 존엄과 인격권을 파괴하는 범죄"라며 "이 범죄가 가장 두려워하는 것은 시민 정신에 충만한 국민의 눈이다. 국민께서 엄중한 감시자로서 방심위와 함께해달라"고 당부했다.