딥페이크 사이트에 사진 올리면 처벌 가능할까요?

Question

제가 촉법소년때 일인데 제가 얀덱스라는 곳에서 딥페이크라고 검색하고 거기다가 제 지인사진을 넣었습니다 근데 이게 원래 안되는 건진 모르겟지만 로딩중에 제가 그냥 나갔습니다 그 사이트가 걸리면 저는 위험한 상태일까요? 저장도 안하고 만들어지지도 않았습니다 근데 그 사이트에 그 사진이 저장되면 제가 위험할수있나요? 작년일입니다 저는 춤추는 영상 만들어주는줄 알고 사진을 넣은겁니다 하루하루 너무 불안합니다 도와주세요 ㅜㅜ그 사이트에서 이 사진이 삭제 됐을까요? 감사합니다

전경석 변호사 · Answer

안녕하세요, 서울시교육청 감사관 출신 변호사 전경석입니다.

문의주신 건과 관련하여
지인사진을 딥페이크물로 작성하는 경우는
원칙적으로 아청물제작죄로 처벌이 가능한 상황이나

질문자님께서 사진으로 딥페이크물을 제작하려던 중에
그냥 나가서 저장이 안된 상황이고
이를 유포하거나 하지 않으셨다면

현실적으로 사건화가 되기는 어렵습니다.

너무 걱정하지 않으셔도 될 것으로 보이고
앞으로는 이러한 사진을 만들지 않으시는 것을 권해드립니다.

자세한 상담을 원하시면 편히 연락주시기 바랍니다.

전경석 법률사무소 오율 대표변호사.

강대현 변호사 · Answer

안녕하십니까. 법무법인 도모의 강대현 변호사입니다.

[1] 범죄 성립 여부
질문자님께서 걱정하시는 딥페이크 관련 범죄는 타인의 사진을 이용해 성적 수치심을 유발하는 허위 영상물을 제작하거나 반포할 목적이 입증되어야 합니다. 단순히 호기심에 사진을 올렸다가 결과물 생성 전에 창을 닫으셨고, 유포하려는 의도가 전혀 없었다면 처벌 대상이 되기 어렵습니다. 제작이 완성되지 않은 상태라면 범죄 구성요건을 충족하기 힘들다는 점을 먼저 말씀드립니다.

[2] 촉법소년 신분과 수사 가능성
당시 만 14세 미만이셨다면 설령 문제가 발생하더라도 형사 처벌이 아닌 소년법에 따른 보호처분 대상이 됩니다. 또한 해당 사이트는 해외 서버를 이용하는 경우가 많아, 단순 이용 기록만으로 국내 수사기관이 특정 사용자를 추적해 조사할 가능성은 극히 희박합니다. 데이터를 저장하지 않으셨다면 서버에 남은 흔적도 시간이 지나면 자연스럽게 소멸하거나 덮어쓰기 될 확률이 높으니 너무 불안해하지 않으셔도 됩니다.

[3] 향후 대응 방안
가장 중요한 것은 앞으로 유사한 사이트나 서비스에 접근하지 않는 것입니다. 현재 질문자님의 행위는 범죄의 고의가 있다고 보기 어렵고 결과물 또한 발생하지 않았으므로, 과도한 공포를 느끼기보다는 일상생활에 집중하시는 것을 권해드립니다. 만약 불안감이 해소되지 않거나 구체적인 정황 확인이 필요하시다면 언제든 도움을 드리겠습니다.

보다 자세한 문의 사항이 있으실 경우, 상담을 통해 도와드리겠습니다.
강대현 변호사 올림.

이지훈 변호사 · Answer

안녕하세요. 하루하루 불안한 마음이 크시겠지만, 너무 걱정하지 않으셔도 됩니다. 법무법인CITY 이지훈 변호사입니다.

(1) 지금 당장 할 일
우선 해당 사이트에 사진을 업로드하셨으나 로딩 중 나가셨고, 실제 딥페이크 결과물이 생성되거나 저장되지 않았다면 범죄가 성립되기 어렵습니다. 촉법소년(만 10세 이상 14세 미만) 시기의 행위라면 형사처벌 대상이 아닙니다. 지금 상태에서 추가 행동을 하지 않으시면 됩니다.

(2) 변호사 전문적 도움이 필요한 부분
딥페이크 관련 성폭력처벌법은 허위영상물을 제작하거나 반포한 경우에 적용됩니다. 사이트에 사진을 업로드했으나 결과물이 생성되기 전에 나왔다면 제작 자체가 완성되지 않았으므로 미수에도 해당하기 어렵습니다. 또한 촉법소년이었다면 소년법상 보호처분 대상일 뿐 형사처벌은 받지 않습니다. 과도한 걱정은 하지 않으셔도 되나, 앞으로 이런 사이트는 이용하지 않도록 주의하시기 바랍니다.

배진혁 변호사 · Answer

안녕하세요.

결론부터 말씀드리면, 질문자님의 상황은 결과물이 생성되지 않았고 유포하려는 고의도 없었으므로 형사 처벌로 이어질 가능성은 낮을 것으로 보입니다. 다만, 딥페이크 관련 법안(성폭력처벌법 제14조의2)이 강화되는 추세라 주의가 필요합니다.

작년 시점의 법에 따르면 성인 지인의 사진을 이용해 허위 영상물을 만드는 행위는 '반포(남에게 널리 퍼뜨림)할 목적'이 있어야 처벌이 가능했습니다. 질문자님처럼 단순한 호기심으로 춤추는 영상을 만들려다 로딩 중 중단했다면, 제작 행위 자체가 완료(기수)되지 않았을 뿐만 아니라 유포할 목적도 없었다고 볼 여지가 큽니다. 설령 사이트 서버에 사진이 남더라도, 수사기관이 해외 사이트인 얀덱스의 서버를 전수 조사하여 단순 업로드 기록만으로 개별 사용자를 추적할 확률은 현실적으로 매우 낮습니다.

또한 당시 만 14세 미만의 촉법소년(형사책임을 지지 않는 미성년자) 신분이었다면, 설령 혐의가 인정되더라도 형사 처벌 대신 소년법에 따른 보호처분(사회봉사, 보호관찰 등)을 받게 됩니다. 현재 해당 사진이 삭제되었는지 확언할 수는 없으나, 대부분의 생성형 AI 서비스는 일정 시간 내에 완료되지 않은 세션의 데이터를 휘발시키거나 덮어쓰는 방식을 취하므로 지나친 불안감에 빠지실 필요는 없을 것으로 보입니다.

추가로 궁금하신 점이 있으시면 상담 예약 부탁드립니다.