생성형 AI와 불법 콘텐츠 생성 시도

Question

구글에 stable diffusion 검색해서 나오는 사이트에서 호기심에 league of legends character ahri naked picture를 생성해달라고 시도하면 불법인가요?
딥페이크 이런거 전혀아니고 단순히 저 문장만 쳤으며 규약위반인지 실제로 생성되지도 않았습니다
아청이나 그런걸로 만들목적도 아니었습니다
답변부탁드립니다. 감사합니다..

배성환 변호사 · Accepted Answer

아청법상 성착취물 제작죄는 ‘아동·청소년으로 명백하게 인식될 수 있는’ 사람이나 표현물이 대상입니다. 판례는 단순히 외관이 어려 보인다는 사정만으로 아동·청소년으로 단정해서는 안 된다고 보아 '명백성'을 엄격히 요구합니다.

질의의 경우, 대상이 가상 캐릭터이고 사회 평균인의 시각에서 명백히 아동·청소년으로 인식된다고 보기 어려우며, 실제 이미지 생성이 실패했으므로 범죄가 성립할 가능성은 매우 낮습니다.

김상윤 변호사 · Accepted Answer

질문하신 “league of legends character ahri naked picture”와 같은 문구를 AI 그림 생성 사이트에 입력하여 그림을 생성 시도한 행위 자체는 현행법상 불법행위에 해당하지 않습니다. 해당 행위는 실제로 음란물이나 딥페이크, 아동·청소년 관련 불법물 제작에 해당하지 않고, 단순히 텍스트 프롬프트를 입력한 것으로 범죄 구성요건에 해당하지 않습니다. 또한, 실존 인물의 신체 등을 합성하거나 명예를 훼손하는 경우도 아니므로, 성폭력처벌법, 아동청소년보호법, 정보통신망법 등 관련 법률 위반에도 해당하지 않습니다.

다만, 대부분의 AI 이미지 생성 사이트(예: stable diffusion 기반 서비스)에서는 이용약관 또는 커뮤니티 가이드라인상 선정적이거나 불법적인 내용을 생성하려는 시도를 금지하고 있으며, 이런 시도는 서비스 규정 위반으로 계정 정지나 이용 제한의 사유가 될 수 있습니다. 하지만 이는 민사적·계약상 불이익에 불과하며, 단순 시도 자체만으로 형사처벌 등 불법이 성립하지는 않습니다.