AI기술 : 딥페이크를 이용한 성범죄 



요즘 딥페이크 성범죄가 인터넷이나 뉴스에서 이슈가 되고 있고 정부에서도 적극적으로 나서서 조사한다고 보도되고 있습니다.

해외에서도 지금 우리 나라가 딥페이크 노출 영상에 관해 비상 상황에 직면했다고 연일 보도중이구요.

해외 보안 업체에서도 우리 나라가 딥페이크 성범죄율이 높다고 합니다.

딥페이크(Deepfake)는 인공지능 기술을 활용하여 사람의 얼굴이나 목소리를 매우 사실적으로 모방하는 기술입니다.

이 기술은 주로 딥러닝 알고리즘을 사용하여 기존의 이미지나 비디오에서 데이터를 학습하고, 이를 바탕으로 새로운 콘텐츠를 생성합니다.

최근 AI로 인해 급속하게 발전중인 기술인데 이 기술을 악용하여 얼굴 사진이나 얼굴 영상에 노출한 몸을 붙여서 마치 얼굴 사진의 주인공이 영상이나 사진을 찍은 것처럼 보이게 합성을 합니다.

이게 배포되면 전 세계 어디든 공유가 될수 있고 한 번 배포되기 시작하면 인터넷상의 모든 사진을 지우기도 쉽지가 않은 문제가 있죠.

언론 보도를 보면 딥페이크의 가해자가 10대, 20대가 많다고 합니다.



출처 : 경찰청

10대가 점점 늘고 있는 추세가 위의 자료에서도 보입니다.

디지털 신기술에 익숙한 세대들이 딥페이크를 활용해 범죄 행위를 하는것이죠.

얼마 전 모학교 선생님이

학생들의 휴대폰에서 다른 여학생들의 외모를 평가하고 그 여학생들의 얼굴을 다른 노출 영상물과 딥페이크 기술로 합성한 영상물을 발견해 큰 충격을 받았습니다.

​영상을 합성한 학생들을 불러 "이건 범죄다", "한 사람의 일생이 망가질 수도 있고 한 가정이 망가질수도 있다" 고 주의를 주었습니다.

학생들은 그냥 장난친 거고 딥페이크가 유행이라 한번 해봤다며 죄송하다고 했지만 사건이 커져 수사기관에서 현재 수사중인 상태입니다.

피해자인 합성 영상물의 대상이 된 여학생들은 불안한 날을 보내고 있습니다.

디지털물의 특성상 얼마나 어디로 배포되었는지 알수가 없기 때문이죠

국회 행정안전위원회 소속 더불어민주당 양부남 의원이 경찰청에서 제출받은 자료에 따르면

2021∼2023년 경찰에 신고된 허위영상물(딥페이크 범죄를 통해 편집된 합성음란물) 사건의 피해자 총 527명 중 59.8%(315명)는 10대였다고 합니다.

지금 10대는 학생이 대부분인데 지금 우리의 아이들이 범죄인지 인지도 못하고 딥페이크 영상물을 만들고 있고 그 대상이 또 다른 우리의 아이들이라면...

너무 우려스럽습니다.

​

딥페이크 범죄 관련 법령을 보면

성폭력범죄의 처벌 등에 관한 특례법 제14조의2(허위영상물 등의 반포등)

① 반포등을 할 목적으로 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물(이하 이 조에서 "영상물등"이라 한다)을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집ㆍ합성 또는 가공(이하 이 조에서 "편집등"이라 한다)한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.

② 제1항에 따른 편집물ㆍ합성물ㆍ가공물(이하 이 항에서 "편집물등"이라 한다) 또는 복제물(복제물의 복제물을 포함한다. 이하 이 항에서 같다)을 반포등을 한 자 또는 제1항의 편집등을 할 당시에는 영상물등의 대상자의 의사에 반하지 아니한 경우에도 사후에 그 편집물등 또는 복제물을 영상물등의 대상자의 의사에 반하여 반포등을 한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.

③ 영리를 목적으로 영상물등의 대상자의 의사에 반하여 정보통신망을 이용하여 제2항의 죄를 범한 자는 7년 이하의 징역에 처한다.

④ 상습으로 제1항부터 제3항까지의 죄를 범한 때에는 그 죄에 정한 형의 2분의 1까지 가중한다로 제1항부터 제3항까지의 죄를 범한 때에는 그 죄에 정한 형의 2분의 1까지 가중한다.

출처 : 국가법령정보센터

핵심을 보면

1. 반포를 목적으로 영상물을 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집 가공

2. 편집​ㆍ합성ㆍ가공물을 반포, 배포등

3. 영리 목적으로 정보통신망을 이용하여 배포

범죄의 성립요건이 까다롭기 때문에,

이 범죄 행위에 대하여 피해자분들이 원하시는 처벌과 합의 결과를 보시려면

성범죄 피해자 전문 변호사의 도움이 절실히 필요합니다.

전문가의 도움없이 합의는 그 과정에서 많은 어려움에 직면하시게 되면서 2차, 3차 피해가 발생할 소지도 큽니다.

딥페이크 범죄의 특성상 신속하고 깊이있는 전문가의 대처가 없으면 자기도 모르게 피해가 계속 누적될 수도 있습니다.

당신의 잃어버린 영광을, 실추된 명예를, 빼앗긴 재산을, 무너진 자존감을 찾아 드리겠습니다.