AI 딥페이크 명예훼손, 딥페이크로 합성해 퍼뜨리면 처벌될까? 

안녕하세요, 법무법인 심입니다.

AI 기술을 이용해 특정인의 얼굴이나 목소리를 합성하고,
실제로 하지 않은 말이나 행동을 한 것처럼 만드는 콘텐츠가 빠르게 늘고 있습니다.

이런 영상이나 음성이 실제 사실처럼 받아들여지고
그로 인해 상대방의 사회적 평가가 떨어진다면
허위사실 명예훼손이 문제될 수 있습니다.

AI로 만든 콘텐츠라는 이유만으로
법적 책임이 사라지는 것은 아닙니다.

반대로 누가 보더라도
풍자나 패러디라는 점을 쉽게 알 수 있는 표현이라면

실제로 특정한 사실을 주장한 것인지부터
다시 살펴봐야 합니다.

결국 중요한 것은 합성 기술 자체가 아니라

그 콘텐츠가 어떤 사실을 전달하는 것처럼 보였는지,

실제 인물을 특정할 수 있었는지,

누가 만들고 누가 다시 퍼뜨렸는지,

보는 사람이 실제 상황으로 오인할 가능성이 있었는지입니다.

AI 합성물도 허위사실 적시가 될 수 있을까?

명예훼손은 반드시 글이나 문장으로만
성립하는 것은 아닙니다.

영상이나 음성, 이미지 역시
특정한 사실관계를 다른 사람에게 전달하는 수단이 될 수 있습니다.

예를 들어 특정인의 얼굴을 합성해
범죄를 저지르는 장면처럼 만들거나

실제 목소리와 비슷한 음성을 생성해
부적절한 발언을 한 것처럼 꾸몄다고 가정해볼 수 있습니다.

일반적인 시청자가 해당 콘텐츠를 보고
실제로 있었던 일이라고 받아들일 가능성이 있다면

허위사실을 드러낸 것으로
평가될 여지가 있습니다.

특히 온라인을 통해
상대방의 평판을 떨어뜨릴 목적으로
거짓 내용을 퍼뜨렸다면

정보통신망을 이용한 명예훼손 문제도
함께 검토될 수 있습니다.

따라서 제작자가 화면에
직접 문장을 적지 않았다고 해서
항상 책임을 피할 수 있는 것은 아닙니다.

영상 전체가

“이 사람이 실제로 이런 행동을 했다.”

는 메시지를 전달한다면
그 표현이 허위사실 적시에 해당하는지
살펴봐야 합니다.

결국 AI 합성물도
전달되는 내용과 표현 방식에 따라
기존 명예훼손 법리가 적용될 수 있습니다.

패러디나 창작물이라고 표시하면 괜찮을까?

AI 콘텐츠 중에는
처음부터 풍자나 패러디를 목적으로
제작되는 경우도 많습니다.

누가 보더라도 현실의 사건을
보도하거나 폭로하는 것이 아니라

명백한 창작물이라는 점을
알 수 있는 내용이라면

구체적인 허위사실을 적시한 것으로
보기 어려운 경우도 있습니다.

하지만 영상 제목이나 설명란에
단순히 “AI 제작물”이라고 적었다는 이유만으로
모든 문제가 해결되는 것은 아닙니다.

실제 뉴스 영상처럼 편집하고,

진짜 녹취나 실제 촬영본처럼 구성하고,

게시 문구 역시 실제 사건이 발생한 것처럼 작성했다면

일반적인 시청자가 이를 어떻게 받아들였는지를
함께 살펴봐야 합니다.

예를 들어 실제 언론 보도 화면과 비슷하게 만들고
“충격적인 실제 녹취 공개”라는 제목을 붙인 뒤

영상 마지막에만 작게
합성물이라고 표시했다면

그 한 문구만으로 판단하기는 어렵습니다.

반대로 처음부터 비현실적인 장면이 많고

풍자나 패러디라는 점이 명확하게 드러나
실제 상황으로 오인하기 어려웠다면
결론이 달라질 수 있습니다.

따라서 AI 명예훼손 사건에서는
제작 방식 하나보다

제목,

영상 구성,

설명문,

게시 계정의 성격,

전체적인 표현 맥락을 함께 살펴보는 것이 중요합니다.

만든 사람과 퍼 나른 사람의 책임은 같을까?

딥페이크 콘텐츠를 직접 만든 사람과
다른 사람이 제작한 콘텐츠를 다시 공유한 사람은
책임을 판단하는 과정이 다를 수 있습니다.

직접 제작자는
실제로 존재하지 않는 영상이나 음성을
만들어낸 사람인 만큼

해당 내용이 허위라는 점을
알고 있었는지가 중요한 쟁점이 됩니다.

반면 재유포자의 경우에는

해당 콘텐츠가 합성물이라는 사실을
알고 있었는지,

실제 영상이라고 믿었는지,

어떤 문구를 붙여 공유했는지를
따로 확인해야 합니다.

허위사실 명예훼손에서는
결과적으로 내용이 사실과 달랐다는 이유만으로
항상 책임이 인정되는 것은 아닙니다.

행위자가 해당 내용이 허위라는 점을
인식했는지도 문제될 수 있습니다.

그런데 합성물이라는 사실을 알고 있으면서

“실제 녹취가 공개됐다.”

“진짜 영상이 맞다.”

는 설명까지 덧붙여 퍼뜨렸다면
평가가 달라질 수 있습니다.

원본을 직접 만들지 않았다는 이유만으로
언제나 책임에서 벗어나는 것은 아닙니다.

단순히 한 차례 공유한 경우와

영상을 다시 편집해 새로운 설명을 붙이거나,

여러 커뮤니티와 SNS에 반복적으로 게시한 경우도
구별해서 살펴봐야 합니다.

실제 어느 범위까지 퍼졌는지와
어떤 방식으로 유포됐는지도
피해 정도와 고의 판단에 영향을 줄 수 있습니다.

딥페이크 피해가 생겼다면 어떤 증거를 확보해야 할까?

AI 합성물은 삭제되거나
내용이 다시 편집되기 쉽기 때문에
초기 증거 확보가 중요합니다.

영상이나 음성 파일만 저장하는 것보다

게시글 전체 화면,

게시 계정,

게시 시각,

제목과 설명문,

댓글,

공유 상황까지 함께 남겨두는 것이 좋습니다.

상담을 준비한다면

다운로드한 원본 영상이나 음성,

해당 콘텐츠가 게시된 화면,

최초 게시자로 추정되는 계정,

다른 곳으로 퍼진 경로를
정리해두는 것이 도움이 됩니다.

실제 피해자의 얼굴이나 목소리와
합성물을 비교할 수 있는 자료도
필요할 수 있습니다.

특히 피해자가 실제로
그런 말을 하거나 행동한 사실이 없다는 점을
확인할 수 있는 객관적인 자료가 있다면
함께 보관하는 것이 좋습니다.

합성에 사용된 것으로 보이는
원본 사진이나 음성자료가 있다면
그 자료도 남겨둘 필요가 있습니다.

작성자 입장에서는
처음부터 패러디나 창작물로 만든 콘텐츠라는 점을
설명할 수 있는 자료가 중요할 수 있습니다.

제작 과정,

게시 문구,

원본 프로젝트 자료 등을 통해

어떤 의도로 콘텐츠를 만들었는지
확인할 수 있기 때문입니다.

피해자와 작성자 모두
콘텐츠가 만들어지고 게시된 경위와

실제로 어떤 방식으로 전달됐는지를
시간순으로 정리해두는 것이 중요합니다.

마치며

AI로 제작했다는 사실만으로
명예훼손 책임이 없어지는 것은 아닙니다.

실제로 하지 않은 말이나 행동을
한 것처럼 합성하고

그 콘텐츠가 사실처럼 받아들여져
특정인의 사회적 평가를 떨어뜨린다면
허위사실 명예훼손이 문제될 수 있습니다.

반대로 누가 보더라도 명백한 패러디인지,

재유포자가 합성물이라는 사실을
알고 있었는지 등에 따라
판단은 달라질 수 있습니다.

따라서 딥페이크 관련 분쟁에서는
합성물 자체뿐 아니라

게시 문구,

공개 범위,

재유포 경로,

실제 시청자가 받아들이는 방식까지
함께 살펴보는 것이 중요합니다.