AI 딥페이크 영상 유포, 허위사실 명예훼손으로 처벌될까요? 

안녕하세요 법무법인 심

심준섭 대표 변호사입니다.

AI로 특정인의 얼굴이나 목소리를 합성해 실제로 존재하지 않았던 장면을 만들고 이를 사실처럼 유포했다면 허위사실 명예훼손이 성립할 가능성이 있습니다.

명예훼손에서 말하는 사실 적시는 반드시 문자나 직접적인 발언으로 이루어져야 하는 것이 아닙니다. 영상이나 음성, 이미지 역시 특정한 사실이 실제로 존재한다는 의미를 전달할 수 있기 때문입니다.

다만 AI 합성물이라는 이유만으로 모든 콘텐츠가 명예훼손에 해당하는 것은 아닙니다. 실제 사건을 전달하는 것처럼 보이는지, 피해자가 특정되는지, 객관적으로 허위인 사실이 포함되어 있는지, 제작자나 유포자가 허위성을 인식했는지 등을 종합적으로 판단해야 합니다.

특히 온라인에서 콘텐츠가 확산된 경우에는 형법상 명예훼손뿐 아니라 정보통신망법상 명예훼손도 문제될 수 있으므로 게시 목적과 유포 방식까지 함께 검토할 필요가 있습니다.

AI 합성 영상이나 음성도 허위사실을 적시한 것으로 인정될까요?

허위사실 명예훼손은 특정인의 사회적 평가를 떨어뜨릴 수 있는 구체적인 허위사실을 공연히 적시하고, 행위자가 그 허위성을 인식한 경우에 문제됩니다.

여기에서 사실을 적시한다는 것은 단순히 글로 어떤 내용을 작성하는 것만을 의미하지 않습니다. 영상이나 음성을 통해 과거 또는 현재에 존재하는 구체적인 사실관계를 전달하는 경우도 포함될 수 있습니다.

예를 들어 특정인의 얼굴을 합성해 범죄를 저지르는 장면을 만들거나 실제 목소리와 비슷한 음성으로 부정한 거래를 인정하는 발언을 한 것처럼 꾸민 경우를 생각해볼 수 있습니다.

이러한 합성물이 실제로 촬영되거나 녹음된 자료처럼 제시된다면 시청자는 해당 인물이 실제로 그러한 행동이나 발언을 했다고 받아들일 수 있습니다.

이때 중요한 것은 영상의 기술적 완성도 자체가 아니라 콘텐츠가 전달하는 구체적인 의미입니다.

영상에 직접적으로 범죄 사실을 설명하는 문장이 없더라도 제목과 자막, 게시글의 설명, 영상의 전후 장면을 종합했을 때 특정인이 실제로 잘못을 저질렀다는 사실이 암시될 수 있습니다.

반면 단순히 특정인을 우스꽝스럽게 묘사했다는 이유만으로 언제나 허위사실 명예훼손이 성립하는 것은 아닙니다. 구체적으로 증명 가능한 사실을 전달하는지와 단순한 의견이나 창작 표현인지를 구별해야 합니다.

피해자의 특정성도 중요합니다. 영상에 이름이 표시되지 않았더라도 얼굴과 목소리, 직업, 주변 상황 등을 통해 누구인지 알아볼 수 있다면 특정성이 문제될 수 있습니다.

또 형법상 명예훼손이 성립하려면 공연성도 필요합니다. 합성물을 개인적으로 제작해 보관한 상황과 불특정 또는 다수인이 볼 수 있는 SNS나 온라인 커뮤니티에 게시한 상황은 구별해서 판단해야 합니다.

정보통신망을 이용해 허위사실을 공공연하게 드러내고 사람을 비방할 목적까지 인정된다면 정보통신망법상 명예훼손 규정도 검토될 수 있습니다.

따라서 AI 딥페이크 명예훼손 사건에서는 영상이 어떤 사실을 전달했는지와 그 내용이 실제로 어떻게 공개됐는지를 함께 확인해야 합니다.

AI 제작물이나 패러디라고 표시하면 명예훼손 책임을 피할 수 있나요?

AI 콘텐츠에 패러디나 창작물이라는 표시가 있다고 해서 명예훼손 성립 가능성이 자동으로 사라지는 것은 아닙니다.

반대로 특정인의 얼굴을 이용한 합성 영상이라고 해서 모든 경우에 허위사실 적시가 인정되는 것도 아닙니다.

핵심은 일반적인 시청자가 콘텐츠 전체를 접했을 때 실제로 발생한 사실을 전달하는 것으로 받아들이는지 여부입니다.

예를 들어 현실에서 일어날 수 없는 상황을 과장된 방식으로 표현하거나 명백한 허구의 설정을 사용한 영상이라면 구체적인 사실을 주장한 것으로 보기 어려운 경우가 있습니다.

반면 실제 뉴스 보도와 유사하게 화면을 편집하고 특정인의 진짜 녹취나 실제 범죄 장면이 공개된 것처럼 제목을 작성했다면 판단이 달라질 수 있습니다.

영상 끝부분에 작은 글씨로 AI 합성이라는 문구를 표시했다고 하더라도 제목과 자막, 설명 문구 때문에 시청자가 실제 사건으로 오인할 가능성이 있다면 전체적인 전달방식을 검토해야 합니다.

특히 해당 콘텐츠를 게시한 계정이 평소 뉴스나 사건 제보를 다루는 계정인지, 게시자가 영상의 진위를 어떻게 설명했는지, 시청자들이 어떤 맥락에서 영상을 접하게 됐는지도 판단에 영향을 줄 수 있습니다.

또 패러디라는 명칭을 붙였더라도 표현 전체가 특정인이 실제로 범죄를 저질렀다는 구체적인 사실을 암시한다면 단순한 창작물이라는 주장만으로 문제가 해결되는 것은 아닙니다.

반대로 처음부터 명백하게 비현실적인 설정을 사용하고 누구나 풍자나 창작으로 이해할 수 있는 내용이라면 사실 적시 여부를 신중하게 판단해야 합니다.

결국 AI 합성물의 법적 책임을 판단할 때는 제작자의 설명만 볼 것이 아니라 영상의 내용과 구성, 제목, 자막, 게시 경위 등 전체적인 맥락을 확인해야 합니다.

딥페이크 제작자와 재유포자의 명예훼손 책임은 어떻게 달라지나요?

딥페이크 영상이 온라인에 확산되는 과정에서는 최초 제작자뿐 아니라

해당 콘텐츠를 다시 공유하거나 편집해 게시한 사람도 관여할 수 있습니다.

이 경우 제작자와 재유포자의 형사책임은 각각의 행위와 인식을 기준으로 판단해야 합니다.

먼저 제작자는 실제로 존재하지 않았던 장면이나 음성을 만들어냈기 때문에 어떤 내용을 표현하려 했는지, 허위임을 인식했는지, 콘텐츠를 다른 사람에게 공개했는지가 중요합니다.

단순히 합성물을 제작한 것과 이를 불특정 또는 다수인에게 유포한 것은 구별해야 하며, 제작 과정에서 다른 범죄가 성립하는지도 사안에 따라 별도로 검토할 수 있습니다.

재유포자의 경우에는 합성물이라는 사실을 알고 있었는지, 어떤 설명을 붙여 공유했는지, 어디에 어느 범위까지 게시했는지를 확인해야 합니다.

허위사실 명예훼손은 결과적으로 유포된 내용이 거짓이었다는 이유만으로 자동으로 성립하지 않습니다. 행위자가 해당 사실이 허위임을 인식했는지도 중요한 구성요건입니다.

예를 들어 다른 사람이 게시한 영상을 실제 촬영물이라고 믿고 공유한 경우와 합성이라는 사실을 알면서도 진짜 영상이 공개됐다는 설명을 붙여 다시 게시한 경우는 다르게 판단할 수 있습니다.

또 단순히 공유 기능을 이용한 경우와 영상 일부를 다시 편집하고 자극적인 자막을 추가해 여러 온라인 커뮤니티에 반복적으로 게시한 경우도 구별할 필요가 있습니다.

온라인 명예훼손에서는 비방할 목적이 있었는지도 중요한 쟁점입니다. 이 목적은 단순히 상대방에게 불리한 내용이 게시됐다는 사실만으로 인정되는 것이 아니라 게시 내용과 성격, 표현 방법, 공개 범위 등을 종합적으로 살펴봐야 합니다.

따라서 재유포자가 원본을 직접 만들지 않았다는 이유만으로 책임이 항상 배제되는 것은 아닙니다.

반대로 다른 사람이 제작한 영상을 공유했다는 사실만으로 허위사실 명예훼손의 모든 요건이 충족되는 것도 아닙니다.

결국 제작자와 재유포자 각각에 대해 허위성 인식, 공개 행위, 비방 목적과 전달 경위를 구체적으로 확인해야 합니다.

딥페이크 명예훼손 피해를 입었다면 어떤 증거부터 확보해야 하나요?

AI 합성 콘텐츠는 게시자가 삭제하거나 내용을 수정하기 쉽고, 다른 계정에서 재게시되는 과정에서 원래의 제목과 설명이 변경되기도 합니다.

따라서 피해를 확인했다면 문제 된 영상이나 음성뿐 아니라 게시 당시의 전체 상황을 보여주는 자료를 확보하는 것이 중요합니다.

먼저 합성물 파일과 게시글 전체 화면, 게시 계정명, 게시 시각, 제목, 자막과 설명 문구 등을 보존하는 것이 좋습니다.

댓글이나 공유 내역이 있다면 해당 내용도 함께 확보해야 합니다. 최초 게시자가 누구인지와 이후 어떤 경로로 재유포됐는지를 구분해 정리하면 제작자와 재유포자의 행위를 각각 검토하는 데 도움이 됩니다.

또 영상이나 음성이 허위라는 점을 확인할 수 있는 객관적인 자료도 중요합니다.

피해자의 실제 얼굴이나 목소리와 비교할 수 있는 자료, 합성 장면의 원본으로 사용된 것으로 추정되는 사진이나 영상, 문제 된 사건이 실제로 발생하지 않았다는 점을 뒷받침하는 자료 등을 확인할 수 있습니다.

예를 들어 합성 영상이 특정한 장소에서 범죄를 저지른 것처럼 표현하고 있다면 당시 피해자의 실제 행적이나 해당 장소와 관련된 객관적인 기록이 도움이 될 수 있습니다.

작성자 측에서도 제작 과정과 게시 경위를 확인할 자료가 필요할 수 있습니다.

처음부터 패러디나 창작물로 제작했다는 입장이라면 원본 프로젝트와 제작 과정, 게시 당시의 제목과 설명, 합성 사실을 어떻게 표시했는지 등을 확인할 수 있어야 합니다.

재유포자라면 영상을 처음 접한 게시물의 내용과 당시 진위를 판단할 수 있었던 자료도 중요할 수 있습니다.

피해자는 증거를 보존한 뒤 플랫폼에 게시물 신고나 삭제를 요청하고, 사안에 따라 형사고소나 민사상 손해배상청구를 검토할 수 있습니다.

특히 합성 콘텐츠가 계속 확산되고 있다면 추가 피해를 줄이기 위한 조치와 향후 법적 절차에 필요한 증거 보존을 함께 고려해야 합니다.

AI 딥페이크 명예훼손 사건에서는 합성물 자체의 내용뿐 아니라 최초 제작과 게시, 재유포, 피해 발생에 이르는 과정을 시간순으로 정리하는 것이 중요합니다.

마치며

AI 딥페이크를 이용해 특정인이 실제로 하지 않은 말이나 행동을 사실처럼 꾸며 유포했다면 허위사실 명예훼손이 문제될 수 있습니다.

다만 합성물이 구체적인 허위사실을 전달하는지, 명백한 패러디인지, 제작자와 재유포자가 허위성을 인식했는지 등은 각각 판단해야 합니다.

피해를 입었거나 관련 혐의로 조사를 받게 됐다면 영상의 내용과 게시 경위, 확산 과정에 관한 자료를 확보하는 것이 중요합니다.

비밀 댓글로 문의사항과 연락처를 남겨주시면 대표변호사와 무료 상담을 도와드리겠습니다.

자주 묻는 질문

Q1. AI로 만든 가짜 영상도 허위사실 명예훼손으로 처벌될 수 있나요?

가능합니다. 실제로 발생하지 않은 사건을 특정인이 저지른 것처럼 합성하고 이를 공연히 유포해 사회적 평가를 떨어뜨렸다면 허위사실 명예훼손이 문제될 수 있습니다. 다만 허위성 인식과 공연성 등 구체적인 성립요건을 확인해야 합니다.

Q2. 딥페이크 영상에 패러디라고 적으면 명예훼손이 성립하지 않나요?

패러디라는 표시만으로 결론이 정해지는 것은 아닙니다. 제목과 자막, 영상 구성 등 전체적인 맥락에서 일반 시청자가 실제 사건으로 받아들일 수 있는지 살펴봐야 합니다.

Q3. 다른 사람이 만든 딥페이크 영상을 공유한 사람도 처벌받을 수 있나요?

재유포자도 명예훼손이 문제될 수 있습니다. 다만 합성물이라는 사실을 알고 있었는지, 어떤 설명을 붙여 공유했는지, 비방할 목적이 있었는지 등은 개별적으로 판단해야 합니다.

Q4. AI 딥페이크 명예훼손 피해를 입었다면 어떤 자료를 준비해야 하나요?

문제 영상이나 음성, 게시글 전체 화면, 작성 계정과 게시 시각, 댓글과 공유 내역, 최초 게시 및 재유포 경로를 확보하는 것이 좋습니다. 합성물의 내용이 사실과 다르다는 점을 보여주는 객관적인 자료도 함께 정리할 필요가 있습니다.