NCMEC 계정 정지되었다면 

안녕하세요, 법률사무소 유(唯) 박성현 변호사입니다.

​

최근 그록(Grok), 딥페이크 봇 등을 이용하여 허위영상물을 제작·유포한 사건에서 불송치, 무죄 등의 사례가 나오고 있습니다.

​

한편, 그록 이용자 중 일부는 아동성착취물(CSAM: Child Sexual Abuse Material) 관련 콘텐츠가

​

NCMEC(National Center for Missing & Exploited Children, 미국 아동 실종·착취 방지 센터)에 보고되었다는 알림을 받고 있는 상황입니다.

​

(User is blocked: NCMEC reported users for CSAM)

​

이전 구글 드라이브 사건의 경우, 계정 정지만 이루어졌을 뿐 NCMEC 보고 여부를 이용자가 직접 확인할 수 없었습니다.

​

반면, 그록은 신고 접수 사실을 이용자에게 직접 고지하고 있습니다.

​

이러한 차이를 고려하면, 구글 드라이브 사건보다 오히려 더 많은 피의자가 발생할 수 있다고 보고 있습니다.

​

그록에서 CSAM을 탐지하는 과정은 다음과 같은 다층 구조로 이루어져 있습니다.

​

첫째, 프롬프트 필터 분석입니다.

사용자가 입력하는 텍스트 자체를 분석하여 CSAM 관련 요청을 사전에 차단합니다.

​

둘째, 업로드 이미지 분석입니다.

사용자가 이미지를 업로드하면 PhotoDNA 등 해시 매칭 기술을 통해 NCMEC·FBI에 등록된 기존 CSAM 데이터베이스와 대조합니다.

​

셋째, 생성 출력 검사입니다.

그록이 이미지를 생성한 직후, 내부 AI 분류기(Flux 모델 안전 필터)가 해당 출력물의 CSAM 해당 여부를 스캔합니다.

​

넷째, 사용자 행동 패턴 분석입니다. 반복적인 유사 요청, 계정 이력 등을 종합적으로 분석합니다.

​

이후 위 단계에서 탐지된 내용은 사용자 신고 및 내부 감사 절차로 이어지게 됩니다.

미국 연방법상 보고 의무

미국 연방법(18 U.S.C. § 2258A)에 따르면, 모든 미국 기반 온라인 서비스 제공자는 CSAM을 인지하는 즉시 NCMEC의 CyberTipline에 보고할 의무가 있습니다.

​

NCMEC 내부에는 자동 필터링 시스템이 존재하나, 최종적으로는 별도의 분석관이 해당 건을 검토하며, 이 과정을 거쳐 각국 수사기관에 사건이 분배됩니다.

​

이러한 경위로 입건될 경우, 크게 두 가지 혐의가 문제될 가능성이 높습니다.

​

1. 아동·청소년 성착취물 제작

아동·청소년성착취물을 제작·수입 또는 수출한 자는 무기 또는 5년 이상의 징역에 처한다.

​

2. 허위영상물 편집·반포

사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물 또는 음성물을 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 자는 7년 이하의 징역 또는 5천만 원 이하의 벌금에 처한다.

​

입건 경위는 다르지만, 동일한 혐의로 입건된 의뢰인이 최근 불송치 처분을 받아 해당 내용도 함께 공유합니다.

해당 의뢰인은 텔레그램 봇을 통해 허위영상물 80여 건을 제작하였다는 혐의로 입건되었습니다.

​

허위영상물 사건으로 입건될 경우, 단순히 허위영상물 편집·반포 혐의만 적용되는 것이 아닙니다.

​

아동·청소년 성착취물 제작, 허위영상물 편집·반포, 성착취물 소지, 허위영상물 소지 등 복수의 혐의가 동시에 적용됩니다.

즉, 모든 혐의에 대하여 객관적이고 구체적으로 반박하며 하나씩 깨뜨려야 비로소 불송치를 받을 수 있습니다.

​

법률사무소 유(唯)에서는 이에 대한 데이터베이스가 충분히 축적되어 있어 체계적인 대응이 가능했습니다.

​

본 의뢰인의 경우, 연예인을 대상으로 합성을 하였고 그중 미성년 연예인이 다수 포함되어 있었기에 다투기가 쉽지 않은 사안이었습니다.

​

그럼에도 불구하고 법률사무소 유(唯)에서는 다음과 같은 전략으로 대응하였습니다.

​

첫째, 연예인을 대상으로 합성한 사실 자체는 인정하되, 미성년자임을 인지하지 못한 점을 실증적 자료를 통해 설득하였습니다.

​

이를 통해 아동성착취물 제작에 대한 고의가 없었음을 입증하여, 아동 관련 혐의를 배제시켰습니다.

​

둘째, 반포 목적이 없었다는 점을 객관적으로 소명하여, 최종적으로 전체 혐의에 대한 불송치 처분을 이끌어냈습니다.

​

해당 법률이 개정된 지 얼마 되지 않아 관련 판례가 충분하지 않은 시점입니다.

​

이러한 상황에서 수사기관을 설득하는 것은 상당히 난이도가 높은 작업입니다.

​

수사 단계에서의 혐의 부인은 기소 확률을 높일 수 있는 리스크를 수반하지만, 불송치를 받을 수 있다는 확신이 있었기에 진행한 사안입니다.

​

현재도 아동·청소년 성착취물 제작·구매 등의 혐의로 상담 연락이 이어지고 있으며, 그록 검열로 인한 계정 정지 관련 상담 역시 매일 접수되고 있습니다.

​

정지 사유, 기간 등을 말씀해 주시면 검토 후 문제가 될 수 있는 사안인 경우 연락드리겠습니다.

감사합니다.

법률사무소 유(唯) 대표변호사 박성현