AI로 만든 사진 한 장이 범죄가 되는 순간 

• 들어가며

생성형 AI가 보편화되면서 전문 지식 없이도 몇 분 만에 실제와 구별하기 어려운 사진·영상·음성을 만들 수 있게 되었습니다. 기술이 쉬워진 만큼 "재미로 만들어 봤다", "단톡방에서 받아서 보기만 했다"는 사안도 빠르게 늘고 있습니다. 그러나 현행법은 이러한 행위를 결코 가볍게 보지 않습니다. 아래에서는 AI 생성물이 문제 되는 대표적인 유형과 처벌 수위, 그리고 피해자와 피의자 각각의 대응 방법을 정리해 보겠습니다.

• 성적 딥페이크: 만들지 않고 보기만 해도 처벌됩니다

성폭력처벌법은 딥페이크 음란물을 '허위영상물'로 규정하고 있습니다. 사람의 얼굴, 신체 또는 음성을 대상으로 한 촬영물이나 영상물 등을 대상자의 의사에 반하여 성적 욕망이나 수치심을 유발할 수 있는 형태로 편집·합성·가공한 것이 이에 해당합니다.

2024년 개정으로 처벌 범위가 크게 넓어졌습니다. 종전에는 '반포할 목적'이 있어야 처벌되었으나 이 요건이 삭제되어, 반포 목적 없이 제작한 경우도 처벌 대상이 되었습니다. 제작의 법정형도 최고 5년에서 최고 7년으로 상향되었습니다. 나아가 허위영상물을 소지·구입·저장 또는 시청한 경우에도 3년 이하의 징역 또는 3천만 원 이하의 벌금에 처할 수 있습니다.

예전에 내려받아 둔 파일이라고 안심할 수도 없습니다. 대법원은 허위영상물 소지죄를 허위영상물임을 알면서 소지를 개시한 때부터 지배관계가 종료한 때까지 하나의 죄로 평가되는 이른바 계속범으로 보았습니다(대법원 2026도541). 결국 파일을 계속 보관하고 있는 한 범죄가 계속되고 있는 것으로 평가될 수 있다 할 것입니다.

피해자가 아동·청소년인 경우에는 청소년성보호법이 적용되어 처벌이 더욱 무거워집니다. 제작만으로도 무기 또는 5년 이상의 징역까지 가능합니다. 또한 합성물을 이용해 상대방을 협박하거나 무언가를 강요한 경우에는 성폭력처벌법 제14조의3에 따라 별도로 가중 처벌됩니다.

• 선거 딥페이크: 선거일 전 90일부터는 표시를 해도 금지됩니다

2023년 공직선거법 개정으로 선거 관련 딥페이크 규제가 도입되었습니다. 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 딥페이크 영상·음향 등을 제작·편집·유포·상영·게시할 수 없으며, 이는 AI 생성물임을 표시했는지 여부와 관계없이 금지됩니다. 이를 어기면 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하의 벌금에 처할 수 있습니다.

지지하는 후보를 돕겠다는 선의였더라도 처벌을 피할 수 없다는 점에 유의하셔야 합니다. 실제로 올해 지방선거에서는 선관위가 삭제를 요청한 딥페이크 게시물이 8천 건을 넘었고, 고발 및 수사 의뢰도 이루어졌습니다.

• 명예훼손과 사기에 이용된 경우

특정인이 하지 않은 말이나 행동을 AI로 만들어 인터넷에 게시하면 정보통신망법상 허위사실 적시 명예훼손이 문제 됩니다. 가족이나 지인의 목소리를 흉내 낸 이른바 '딥보이스'로 송금을 유도하였다면 사기죄가 성립함은 물론입니다. AI는 범행 수단일 뿐이고, 기존 범죄의 구성요건이 그대로 적용된다고 보시면 됩니다.

• AI기본법의 표시 의무, 개인 이용자에게도 적용될까

올해 1월 22일부터 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 시행되면서 AI 생성물 표시 의무에 관한 문의도 늘고 있습니다. 다만 이 법의 표시 의무는 기본적으로 AI 서비스를 제공하는 사업자에게 부과됩니다. AI 기술을 활용해 콘텐츠를 제작하더라도 인공지능 시스템을 개발하거나 서비스를 제공하는 자가 아니라면 단순 이용자로 평가될 가능성이 높고, 이 경우 표시 의무는 적용되지 않는다고 보는 것이 일반적입니다. 그렇다고 개인 이용자에게 아무런 책임이 없다는 뜻은 아닙니다. 앞서 본 성폭력처벌법, 공직선거법, 정보통신망법 등은 그대로 적용되기 때문입니다.

• 피해를 입으셨다면

가장 먼저 할 일은 증거 확보입니다. 게시물의 URL, 게시자 계정, 게시 일시가 드러나도록 화면을 저장해 두셔야 합니다. 삭제 요청을 서두르다 증거가 사라지면 가해자를 특정하기 어려워질 수 있습니다. 증거를 확보한 뒤에는 디지털성범죄피해자지원센터나 방송통신심의위원회를 통해 삭제와 차단을 요청하고, 수사기관에 고소하는 절차를 병행하는 것이 바람직합니다. 형사절차와 별도로 정신적 손해에 대한 위자료 청구도 가능합니다.

• 수사를 받게 되셨다면

딥페이크 사건은 대부분 휴대전화와 PC에 대한 압수·수색에서 시작됩니다. 이 단계에서 디지털 포렌식에 참관하여 영장 범위를 벗어난 탐색이 이루어지지 않도록 확인하는 것이 중요합니다. 또한 미안한 마음에 피해자에게 직접 연락하는 경우가 있는데, 이는 2차 가해로 평가되어 오히려 불리하게 작용할 수 있습니다. 합의는 반드시 변호인을 통해 진행하시는 것이 안전합니다.

• 맺으며

AI 생성물 범죄는 기술은 새롭지만, 법적 판단은 결국 "누구의 의사에 반하여, 어떤 목적으로, 어디까지 퍼뜨렸는가"로 귀결됩니다. 피해자라면 확산을 막는 속도가, 피의자라면 수사 초기의 대응 방향이 결과를 좌우합니다. 필자는 「인공지능로봇에 관한 형사법적 연구」로 법학박사 학위를 받은 이후 AI와 형사법의 교차 영역을 꾸준히 연구해 왔습니다. 비슷한 문제로 고민하고 계시다면 혼자 판단하지 마시고 전문가와 상의하시기 바랍니다.