🤖 AI 챗봇 성적 대화, 실제 인물 특정 

AI 챗봇과 나눈 성적인 대화가 실제 인물을 연상시키거나 그 사람의 이름·사진·목소리를 이용했다면, 단순한 가상 대화인지 특정인을 대상으로 한 합성·전송인지 구분해야 합니다. 텍스트만 생성된 경우와 얼굴·신체·음성을 합성한 결과물이 만들어진 경우는 적용 법률이 다릅니다. 모델의 답변보다 실제 입력값, 생성물과 공유 행위를 확인하는 것이 먼저입니다.🤖 텍스트 대화만으로 허위영상물이 되지는 않는다

성폭력처벌법 제14조의2는 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물·음성물을 성적 욕망 또는 수치심을 유발할 형태로 편집·합성·가공한 편집물 등을 규율합니다. 단순한 텍스트 역할극이나 AI와의 비공개 대화는 그 자체로 얼굴·신체·음성의 허위영상물과 같지 않습니다. 다만 대화 과정에서 사진, 영상, 음성 합성물이 실제 생성되었다면 각 파일의 내용과 대상자 의사를 별도로 검토해야 합니다.

👤 실명 없이도 식별 가능성이 문제 될 수 있다

닉네임, 얼굴 특징, 학교·직장, 관계, 사건 경위가 결합되어 주변 사람이 누구인지 알아볼 수 있다면 특정성 논의가 생길 수 있습니다. 반대로 이용자 혼자 머릿속으로 특정인을 떠올렸을 뿐 생성물에 아무 식별 단서가 없고 제3자에게 공개되지 않았다면 다른 평가가 가능합니다. 실제 인물의 사진이나 음성을 학습·입력했는지, 결과물이 그 사람을 알아볼 정도인지, 누가 열람했는지를 구분합니다.

🖼️ 아동·청소년 합성물은 별도 기준을 적용한다

대법원 2024도17801 판결은 실제 아동·청소년 얼굴에 성적 이미지를 합성한 결과물이 ‘실제 아동·청소년이 등장한 성착취물’은 아니더라도, 내용과 외모·신체발육·실제 나이·제작 경위·배경 등 여러 정보를 종합해 ‘아동·청소년으로 명백히 인식될 수 있는 표현물이 등장하는 성착취물’에 해당할 수 있다고 보았습니다. AI라는 제작수단만으로 청소년성보호법 적용이 배제되지는 않습니다.

💬 실제 사람에게 보냈다면 통매음도 따로 본다

AI가 만든 성적 문장이나 음성을 특정 상대방에게 전송했다면 성폭력처벌법 제13조의 통신매체이용음란죄가 별도로 문제 될 수 있습니다. 이때는 자기 또는 다른 사람의 성적 욕망을 유발·만족시킬 목적, 성적 수치심이나 혐오감을 일으킬 내용, 통신매체 이용과 도달을 확인합니다. AI가 자동 생성했다는 사정만으로 전송자의 선택과 목적이 사라지지 않지만, 자동발송인지 의도적 선택인지 증거로 구별해야 합니다.

📤 비공개 생성과 게시·공유는 구분한다

개인 계정 안에서만 생성하고 저장한 경우, 링크로 타인에게 제공한 경우, 공개 게시판이나 단체방에 올린 경우는 행위가 다릅니다. 허위영상물의 편집·합성과 반포·제공·전시, 소지·구입·저장·시청은 현행법상 별도의 규정으로 검토됩니다. 텍스트 게시물이라면 명예훼손·모욕의 공연성과 특정성, 사실 적시 여부를 별도로 보아야 하며, 모든 불쾌한 창작물이 동일한 죄가 되는 것은 아닙니다.

🧾 프롬프트와 생성 이력을 원본으로 보존한다

입력 프롬프트, 업로드한 원본 사진·음성, 모델과 버전, 생성 시각, 결과물 파일, 수정·합성 단계, 공유 링크와 공개 범위를 보존합니다. 결과물만 보면 어느 부분이 원본이고 어느 부분이 AI 생성인지 알기 어려울 수 있습니다. 삭제 화면만 캡처하기보다 계정 내 생성기록과 결제·접속 로그를 함께 확보합니다. 대상자 사진을 증거 확인 명목으로 다시 업로드하면 복제와 추가 노출이 생길 수 있으므로 주의해야 합니다.

챗봇이 실제 인물의 이름을 우연히 출력한 경우에는 사용자가 그 이름을 입력했는지, 학습데이터를 특정해 지시했는지, 결과를 수정·재생성했는지 살펴야 합니다. 한 번의 우연한 출력과 반복 프롬프트로 특정인의 성적 묘사를 강화한 경우는 행위자의 관여 정도가 다릅니다. 생성물의 제목·태그·설명에 인물의 계정이나 학교를 붙였다면 결과물 자체의 유사도와 별개로 식별 가능성을 높이는 자료가 될 수 있습니다.

음성 합성 기능으로 실제 인물처럼 말하게 한 경우에는 단순 텍스트 생성과 달리 제14조의2의 ‘음성물’ 해당성을 확인해야 합니다. 합성 당시 동의가 있었더라도 이후 반포·제공에 동의하지 않았다면 유통 단계가 별도 문제가 될 수 있습니다. 반대로 완전히 가상인 성인 캐릭터의 목소리이고 특정 자연인을 식별할 수 없다면 실제 인물 대상 허위영상물과 같은 전제로 판단하지 않습니다.

대화 내용을 각색해 소설이나 웹툰 형태로 게시한 경우에는 실제 있었던 사실을 적시한 것인지, 허구의 의견·표현인지, 누구를 지칭하는지와 공개 범위를 따로 살펴야 합니다. 피해자 본인만 자신을 알아보는 것과 제3자가 게시물 속 인물을 식별할 수 있는 것은 다릅니다. 공개 검색이 제한된 블로그라도 초대된 이용자나 과거 모임 구성원이 내용을 보았다면 그 범위가 자료가 될 수 있습니다. 게시와 삭제를 반복했다면 각 시점의 캡처와 주소를 보존합니다.

✅ 결과물 형식과 실제 이용행위를 먼저 특정한다

공식 기준은 성폭력처벌법 제13조·제14조의2, 청소년성보호법 제2조 제5호·제11조와 대법원 2024도17801 판결입니다. AI 챗봇이라는 서비스 이름보다 텍스트·사진·영상·음성 중 무엇이 만들어졌는지, 실제 인물을 알아볼 수 있는지, 저장과 전송이 있었는지를 단계별로 확인해야 합니다. 이러한 구분이 가상 대화와 특정인 대상 디지털 성범죄를 혼동하지 않게 합니다.