딥페이크는 딥러닝(Deep Learning)과 거짓(Fake)의 합성어로, AI를 통해 특정인의 사진이나 동영상, 음성을 콘텐츠에 합성하는 기술을 말한다.
딥페이크 기술은 인공지능 기술의 결과물이지만, 최근 성범죄나 불법 선거운동, 피싱사기, 명예훼손 등의 범죄에 악용되면서 여러 가지 사회적 문제를 야기하고 있다.
특히 과거 유명인을 대상으로 한 음란물 제작이 주류였지만, 최근 겹지방 등에서 지인능욕이라고 하면서 지인을 이용한 음란물 등이 활개를 치면서 다수의 피해자를 양산하고 있다. 예컨대 방송통신심의위원회의 국내 딥페이크 성적 허위 영상물 시정 요구 사례는 2020년 473건, 2021년 1,913건, 2022년 3,574건, 2023년 1월부터 11월에는 5,996건으로 3년 사이 10배 이상 폭증한 상황이다. 한국여성인권진흥원이 지난달 발간한 ‘2023 디지털 성범죄 피해자 지원 보고서’에 따르면, 2024년 딥페이크 음란물에 의한 피해 상담 건수는 423건로서 2022년(212건)보다 2배가량 증가한 수치다.
딥페이크 음란물에 대한 처벌 규정은 무엇인가?
1) 성폭력처벌법
가장 직접적인 처벌 규정은 2020년 도입된 성폭력처벌법 제14조의2이다. 아래 조항에서 '반포등'은 '반포ㆍ판매ㆍ임대ㆍ제공 또는 공공연하게 전시ㆍ상영'의 의미이다(성폭력처벌법 제14조).
성폭력범죄의 처벌 등에 관한 특례법 제14조의2(허위영상물 등의 반포등) ① 반포등을 할 목적으로 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물(이하 이 조에서 “영상물등”이라 한다)을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집ㆍ합성 또는 가공(이하 이 조에서 “편집등”이라 한다)한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.
② 제1항에 따른 편집물ㆍ합성물ㆍ가공물(이하 이 항에서 “편집물등”이라 한다) 또는 복제물(복제물의 복제물을 포함한다. 이하 이 항에서 같다)을 반포등을 한 자 또는 제1항의 편집등을 할 당시에는 영상물등의 대상자의 의사에 반하지 아니한 경우에도 사후에 그 편집물등 또는 복제물을 영상물등의 대상자의 의사에 반하여 반포등을 한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.
③ 영리를 목적으로 영상물등의 대상자의 의사에 반하여 정보통신망을 이용하여 제2항의 죄를 범한 자는 7년 이하의 징역에 처한다.
④ 상습으로 제1항부터 제3항까지의 죄를 범한 때에는 그 죄에 정한 형의 2분의 1까지 가중한다. <신설 2020. 5. 19.>
[본조신설 2020. 3. 24.]
위 조항은 제작자(제1항) 및 유포자(제2항)을 처벌하고 있으나, 여러 가지 문제점과 한계를 안고 있다. 첫째, 제작자의 경우 '반포등 목적'이 있어야 하므로 소지할 목적으로 딥페이크 음란물을 제작한 자는 처벌할 수 없고, 둘째, 유포자 역시 제작자의 '반포등 목적'을 전제로 하고 있다. 셋째, 제작자나 유포자로부터 전송받아 소지, 저장 또는 시청한 자에 대한 처벌 조항은 없다. 넷째, 딥페이크 음란물의 처벌 수준이 카메라 등을 이용한 쵤영물 유포의 경우(성폭력처벌법 제14조)보다 음란성이나 피해 정도가 더 큼에도 매우 낮다는 문제점이 있다.
위 조항 외에도 SNS 등을 통해 딥페이크 음란물을 전송하였다면 이른바 통매음(통신매체를 이용한 음란행위)죄에도 해당될 수 있다.
성폭력범죄의 처벌 등에 관한 특례법 제13조(통신매체를 이용한 음란행위) 자기 또는 다른 사람의 성적 욕망을 유발하거나 만족시킬 목적으로 전화, 우편, 컴퓨터, 그 밖의 통신매체를 통하여 성적 수치심이나 혐오감을 일으키는 말, 음향, 글, 그림, 영상 또는 물건을 상대방에게 도달하게 한 사람은 2년 이하의 징역 또는 2천만원 이하의 벌금에 처한다. <개정 2020. 5. 19.>
참고로 딥페이크 음란물은 형법상의 음란한 물건으로 볼 수 없어 음화제조죄 등으로 처벌할 수 없다는 게 대법원의 태도이다.
대법원 2023. 12. 14. 선고 2020도1669 판결
형법 제243조(음화반포등)는 음란한 문서, 도화, 필름 기타 물건을 반포, 판매 또는 임대하거나 공연히 전시 또는 상영한 자에 대한 처벌 규정으로서 컴퓨터 프로그램파일은 위 규정에서 규정하고 있는 문서, 도화, 필름 기타 물건에 해당한다고 할 수 없다. 이는 형법 제243조의 행위에 공할 목적으로 음란한 물건을 제조, 소지, 수입 또는 수출한 자를 처벌하는 규정인 형법 제244조(음화제조등)의 ‘음란한 물건’의 해석에도 그대로 적용된다.
2) 아동청소년성보호법
아동청소년성보호법 제11조는 아동ㆍ청소년성착취물을 제작, 배포한 경우는 물론이고 소지한 경우도 강력하게 처벌하고 있다.
여기서 아동ㆍ청소년성착취물은 아동ㆍ청소년 또는 아동ㆍ청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장하여 성교행위, 유사성교행위, 노출행위, 자위행위를 하거나 그 밖의 성적 행위를 하는 내용을 표현하는 것으로서 필름ㆍ비디오물ㆍ게임물 또는 컴퓨터나 그 밖의 통신매체를 통한 화상ㆍ영상 등의 형태로 된 것을 말한다.
만일 딥페이크 음란물이 19세 미만의 아동ㆍ청소년을 대상으로 하고 있고, 그 내용이 성교행위, 유사성교행위, 노출행위, 자위행위 등의 성적 행위에 해당한다면, 소지만 해도 1년 이상의 유기징역으로 처벌될 수 있다.
아동ㆍ청소년의 성보호에 관한 법률 제11조(아동ㆍ청소년성착취물의 제작ㆍ배포 등) ① 아동ㆍ청소년성착취물을 제작ㆍ수입 또는 수출한 자는 무기 또는 5년 이상의 징역에 처한다. <개정 2020. 6. 2., 2023. 4. 11.>
② 영리를 목적으로 아동ㆍ청소년성착취물을 판매ㆍ대여ㆍ배포ㆍ제공하거나 이를 목적으로 소지ㆍ운반ㆍ광고ㆍ소개하거나 공연히 전시 또는 상영한 자는 5년 이상의 유기징역에 처한다. <개정 2020. 6. 2., 2023. 4. 11.>
③ 아동ㆍ청소년성착취물을 배포ㆍ제공하거나 이를 목적으로 광고ㆍ소개하거나 공연히 전시 또는 상영한 자는 3년 이상의 유기징역에 처한다. <개정 2020. 6. 2., 2023. 4. 11.>
④ 아동ㆍ청소년성착취물을 제작할 것이라는 정황을 알면서 아동ㆍ청소년을 아동ㆍ청소년성착취물의 제작자에게 알선한 자는 3년 이상의 유기징역에 처한다. <개정 2020. 6. 2., 2023. 4. 11.>
⑤ 아동ㆍ청소년성착취물을 구입하거나 아동ㆍ청소년성착취물임을 알면서 이를 소지ㆍ시청한 자는 1년 이상의 유기징역에 처한다. <개정 2020. 6. 2., 2023. 4. 11.>
⑥ 제1항의 미수범은 처벌한다
⑦ 상습적으로 제1항의 죄를 범한 자는 그 죄에 대하여 정하는 형의 2분의 1까지 가중한다. <신설 2020. 6. 2.>
[제목개정 2020. 6. 2.]
3) 정보통신망법상 명예훼손 또는 형법상 명예훼손
딥페이크 음란물을 이용하여 타인의 명예를 훼손한 경우, 이는 사람을 비방할 목적으로 정보통신망을 통하여 공공연하게 거짓의 사실을 드러내어 다른 사람의 명예를 훼손한 경우 또는 공연히 허위의 사실을 적시하여 사람의 명예를 훼손한 경우에 해당할 여지가 충분하다.
정보통신망법 제70조(벌칙) ① 사람을 비방할 목적으로 정보통신망을 통하여 공공연하게 사실을 드러내어 다른 사람의 명예를 훼손한 자는 3년 이하의 징역 또는 3천만원 이하의 벌금에 처한다.
② 사람을 비방할 목적으로 정보통신망을 통하여 공공연하게 거짓의 사실을 드러내어 다른 사람의 명예를 훼손한 자는 7년 이하의 징역, 10년 이하의 자격정지 또는 5천만원 이하의 벌금에 처한다.
③ 제1항과 제2항의 죄는 피해자가 구체적으로 밝힌 의사에 반하여 공소를 제기할 수 없다.
4) 퍼블리시티권 또는 초상권 침해
유명인의 초상이나 음성 등을 영리 목적으로 무단 이용하는 경우 부정경쟁방지법 제2조 제1호 타목에 해당하고, 유명인이 아니라도 딥페이크 영상물에 타인의 초상을 이용했다면 초상권 침해에 해당한다. 다만 이 둘의 경우 형사 처벌 규정이 없으므로 민사상 손해배상으로 해결해야 한다.
부정경쟁방지법 제2조(정의) 이 법에서 사용하는 용어의 뜻은 다음과 같다.
타. 국내에 널리 인식되고 경제적 가치를 가지는 타인의 성명, 초상, 음성, 서명 등 그 타인을 식별할 수 있는 표지를 공정한 상거래 관행이나 경쟁질서에 반하는 방법으로 자신의 영업을 위하여 무단으로 사용함으로써 타인의 경제적 이익을 침해하는 행위
대법원 2021. 7. 21. 선고 2021다219116 판결 사람은 누구나 자신의 얼굴 기타 사회통념상 특정인임을 식별할 수 있는 신체적 특징에 관하여 함부로 촬영 또는 그림묘사되거나 공표되지 아니하며 영리적으로 이용당하지 않을 권리를 가지는데, 이러한 초상권은 헌법 제10조에 의하여 헌법적으로도 보장되고 있는 권리이다. 따라서 타인의 얼굴 기타 사회통념상 특정인임을 식별할 수 있는 신체적 특징이 나타나는 사진을 촬영하거나 공표하고자 하는 사람은 피촬영자로부터 촬영에 관한 동의를 받고 사진을 촬영하여야 하고, 사진촬영에 관한 동의를 받았다 하더라도 사진촬영에 동의하게 된 동기 및 경위, 사진의 공표에 의하여 달성하려는 목적, 거래관행, 당사자의 지식, 경험 및 경제적 지위, 수수된 급부가 균형을 유지하고 있는지 여부, 사진촬영 당시 당해 공표방법이 예견 가능하였는지 및 그러한 공표방법을 알았더라면 당사자가 사진촬영에 관한 동의 당시 다른 내용의 약정을 하였을 것이라고 예상되는지 여부 등 여러 사정을 종합하여 볼 때 사진촬영에 관한 동의 당시에 피촬영자가 사회 일반의 상식과 거래의 통념상 허용하였다고 보이는 범위를 벗어나 이를 공표하고자 하는 경우에는 그에 관하여도 피촬영자의 동의를 받아야 한다. 그리고 이 경우 피촬영자로부터 사진촬영에 관한 동의를 받았다는 점이나, 촬영된 사진의 공표가 사진촬영에 관한 동의 당시에 피촬영자가 허용한 범위 내의 것이라는 점에 관한 증명책임은 그 촬영자나 공표자에게 있다.
5) 정보통신망법상 게시차단
답페이크 음란물은 '음란한 부호ㆍ문언ㆍ음향ㆍ화상 또는 영상을 배포ㆍ판매ㆍ임대하거나 공공연하게 전시하는 내용의 정보'로서 불법정보에 해당한다(정보통신망법 제44조의7). 피해자는 온라인서비스제공자 또는 방송통신위원회 등에 게시차단의 조치를 요구 또는 청구할 수 있다.
제44조의7(불법정보의 유통금지 등) ① 누구든지 정보통신망을 통하여 다음 각 호의 어느 하나에 해당하는 정보를 유통하여서는 아니 된다. <개정 2011. 9. 15., 2016. 3. 22., 2018. 6. 12.>
1. 음란한 부호ㆍ문언ㆍ음향ㆍ화상 또는 영상을 배포ㆍ판매ㆍ임대하거나 공공연하게 전시하는 내용의 정보
② 방송통신위원회는 제1항제1호부터 제6호까지, 제6호의2 및 제6호의3의 정보에 대하여는 심의위원회의 심의를 거쳐 정보통신서비스 제공자 또는 게시판 관리ㆍ운영자로 하여금 그 처리를 거부ㆍ정지 또는 제한하도록 명할 수 있다. 다만, 제1항제2호 및 제3호에 따른 정보의 경우에는 해당 정보로 인하여 피해를 받은 자가 구체적으로 밝힌 의사에 반하여 그 처리의 거부ㆍ정지 또는 제한을 명할 수 없다. <개정 2016. 3. 22., 2018. 6. 12.>
6) 공직선거법
선거일 전 90일부터 선거일 사이에 딥페이크 음란물을 제작한 경우는 공직선거법 제82조의8에 의하여 처벌된다(7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하의 벌금). 딥페이크 음란물을 통해 상대 후보자 등에 대한 허위사실을 공표한 경우는 허위사실공표죄(공직선거법 제250조)에 의하여 처벌된다.
제82조의8(딥페이크영상등을 이용한 선거운동) ① 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하 “딥페이크영상등”이라 한다)을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 행위를 하여서는 아니 된다.
② 누구든지 제1항의 기간이 아닌 때에 선거운동을 위하여 딥페이크영상등을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 경우에는 해당 정보가 인공지능 기술 등을 이용하여 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 중앙선거관리위원회규칙으로 정하는 바에 따라 해당 사항을 딥페이크영상등에 표시하여야 한다.
제250조(허위사실공표죄) ① 당선되거나 되게 할 목적으로 연설ㆍ방송ㆍ신문ㆍ통신ㆍ잡지ㆍ벽보ㆍ선전문서 기타의 방법으로 후보자(候補者가 되고자 하는 者를 포함한다. 이하 이 條에서 같다)에게 유리하도록 후보자, 후보자의 배우자 또는 직계존비속이나 형제자매의 출생지ㆍ가족관계ㆍ신분ㆍ직업ㆍ경력등ㆍ재산ㆍ행위ㆍ소속단체, 특정인 또는 특정단체로부터의 지지여부 등에 관하여 허위의 사실[학력을 게재하는 경우 제64조제1항의 규정에 의한 방법으로 게재하지 아니한 경우를 포함한다]을 공표하거나 공표하게 한 자와 허위의 사실을 게재한 선전문서를 배포할 목적으로 소지한 자는 5년이하의 징역 또는 3천만원이하의 벌금에 처한다. <개정 1995. 12. 30., 1997. 1. 13., 1997. 11. 14., 1998. 4. 30., 2000. 2. 16., 2004. 3. 12., 2010. 1. 25., 2015. 12. 24.>
② 당선되지 못하게 할 목적으로 연설ㆍ방송ㆍ신문ㆍ통신ㆍ잡지ㆍ벽보ㆍ선전문서 기타의 방법으로 후보자에게 불리하도록 후보자, 그의 배우자 또는 직계존ㆍ비속이나 형제자매에 관하여 허위의 사실을 공표하거나 공표하게 한 자와 허위의 사실을 게재한 선전문서를 배포할 목적으로 소지한 자는 7년 이하의 징역 또는 500만원 이상 3천만원 이하의 벌금에 처한다. <개정 1997. 1. 13.>
로톡의 모든 콘텐츠는 저작권법의 보호를 받습니다.
콘텐츠 내용에 대한 무단 복제 및 전재를 금지하며, 위반 시 민형사상 책임을 질 수 있습니다.