Ai를 통한 소송대응성의 위험성과 대처법 검토 

안녕하세요? 주상현 변호사입니다.

​여러분, 요즘 챗 G**나 다양한 AI 도구로 법률서면 작성하시는 분들 많으시죠?

"변호사 없이도 소송할 수 있겠다"라는 희망 섞인 목소리도 들립니다. 하지만 법원에 AI가 작성한 서류를 그대로 냈다가는 승소할 사건도 패소할 수 있습니다. 오늘은 AI를 통한 소송 진행 시 반드시 알아야 할 4가지 치명적 위험성​과 그 해결책을 정리해 드립니다.

I. 판례 할루시네이션의 위험성

법률 서면은 크게 두 기둥으로 이루어집니다. 내 주장과 그 주장을 뒷받침하는 근거죠. 법률 서면의 근거는 다시 크게 3가지입니다 ‘법령’, ‘증거’, 그리고 '판례'가 있습니다.

​

재판부는 이 중 기존 판례를 매우 중시합니다. 대법원 판례뿐만 아니라 하급심 판례 역시 훌륭한 근거가 될 수 있습니다. 하지만 AI는 가끔 존재하지 않는 판례를 마치 실제 있는 것처럼 아주 그럴싸하게 지어냅니다. 이걸 '할루시네이션(환각)' 현상 합니다.

​

그런데 만약 여러분이 법원에 AI가 지어낸 가짜 판례를 근거로 제출하면 어떻게 될까요? 판사는 해당 판례를 찾아보겠습니다. 당연히 안 나옵니다. 그 순간, 여러분이 제출한 다른 주장과 증거까지 '거짓말'로 의심받게 됩니다. 서면 전체의 신뢰도가 바닥으로 추락하는 겁니다.

​

[솔루션 팁]

• 1. 판례가 존재하는지 직접 확인 : AI가 알려준 판례 번호(예: 2023다12345)를 대법원 종합법률정보 등에서 직접 검색해 보세요.

​

• 2. 해당 판례에 적시된 실제 사실관계 확인 : 판례가 실존하더라도 내 사건과 '사실관계'가 유사한지 확인해야 합니다. Ai는 해당 판례의 일부 문구만 끌어오는 경향이 있는데 실제 결과를 확인해야 합니다. 사실관계가 다르면 해당 판례에 포섭 자체가 안되는 경우도 상당합니다.

​

• 3. 판례의 결론 확인 : 해당 판례의 문구가 있기는 하지만 결론을 확인하면 오히려 우리에게 불리한 경우도 상당히 많습니다. 판례는 법리는 통상 원칙과 예외로 구분하는 경우가 많습니다. 원칙을 적용할 때와 예외를 적용할 때 각각 결론은 정반대로 나올 수 있습니다. 따라서 Ai가 찾아준 판례의 문구의 유무뿐만 아니라 해당 판례에서 재판부가 원칙을 적용했는지, 예외를 적용했는지까지, 그리고 결론이 어떻게 나왔는지까지 모두 (휴먼이) 검토해야 합니다.

​

• 4. 상급심 결론 확인 : 하급심 판례라면 상소심에서 뒤집힐 수도 있습니다. 이 경우 우리는 재판부에 오히려 불리한 판례를 제시한 게 됩니다. 상급심 판례를 검색하지 않고 하급심만 언급하면 낭패를 볼 수 있습니다. 이 역시 아직까지는 휴먼의 몫이지요.

​

• 5. 주장으로 변환 : 아무리 찾아도 Ai가 적시한 판례를 찾을 수 없지만, 해당 문구가 너무 설득력 있다면 너무 아깝지요. 이럴 때는 "판례에 따르면"이 아니라 "이러한 법리적 측면을 고려해야 한다"라는 식으로 근거 제시가 아닌 주장으로 변경할 수도 있습니다. 다만 이때에도 법률 전문가로부터 검토를 받아보시는 것을 권고해 드립니다.

​

현재까지 Ai는 위와 같은 내용을 모두 검토하거나 반영하지 못합니다. 당신의 사건을 정확히 이해하고 당신의 입장을 제대로 반영할 수 있는 휴먼(사람) 전문가의 도움이 아직은 필요해 보입니다. 물론! 가까운 미래에는 위와 같은 사항이 모두 개선될 수는 있지만, 현재 진행 중인 사건을 마냥 늦출 수는 없겠지요.

​II. 잘못된 법률 적용 가능성

다음은 제가 Ai를 써보면서 알게 된 사례들입니다.

​

• 1. 공소시효/소멸시효 잘못 산정 : 공소시효나 소멸시효가 지나버리면 아무리 억울해도 법은 여러분을 도와주지 않습니다. 그런데 AI마다 이 시효를 다르게 알려주는 경우도 종종 있습니다. 실제로 제가 확인차 직접 테스트를 해봐도 어떤 AI는 "시효가 남았다"라고 답변하는데, 다른 AI는 "이미 시효가 지났다"라고 답변하기도 합니다(둘중 하나는 오답을 말한 것이겠지요?).

​

• 2. '무고죄' 위험 : AI는 기본적으로 사용자의 의도에 맞춰 답변하려는 경향​이 있습니다. 여러분이 억울함을 토로하면 AI는 그에 맞춰 죄명을 추천해 주는데, 실제로는 법리적으로 성립하지 않는 죄명도 성립할 수도 있다는 식으로 답변하기도 합니다. 물론, 실제 있었던 사실관계를 바탕으로 고소하였을 경우 무고죄로 처벌받을 가능성은 적기는 합니다. 하지만 Ai가 사용자에게 지나치게 편중된 답변을 하게 된다면 무고죄 성립 가능성이 올라갈 수 있으니 특별히 주의해야 합니다.

​

• 3. 법률 변동의 미반영 : 법률은 계속 변동됩니다. 당사자의 행위 시에 따라 적용되는 법률이 바뀔 수도 있어요. 예를 들어 현행법은 징역형인데 행위시법은 벌금형인 경우도 있습니다. 변론 진행 시 이러한 법률 변동을 주장할 수도 있는데, Ai의 경우 아직은 법률 변동 등을 실시간으로 반영하지는 않는 것 같습니다(이 부분도 정교한 프롬프트 사용으로 극복하시는 분도 계실 수도 있으신 것 같지미나, 모든 사용자들이 그러하지는 못한 것 같습니다).

​

• 4. 주요 주장/항변 누락 : Ai가 기본적인 주장/항변을 누락하는 경우도 있습니다. 아직까지는 Ai에 따라 다르긴 하지만 질문자가 미리 물어보지 않는 한 모든 주장/항변 사항을 꼼꼼히 반영하지는 않아 보입니다.

III. 자인 또는 자백의 위험성

AI가 써준 문장이 너무 유려합니다. 그대로 제출하고 싶으신가요? 조심하셔야 합니다. 법정에 제출된 서면은 여러분의 '진술'로 간주됩니다. AI는 문맥상 가장 자연스러운 단어를 배열할 뿐 그 문장이 여러분에게 법적으로 유리한지 불리한지까지 완벽히 판단하지 않습니다. 한번 뱉은 말은 주워 담을 수 없는 것처럼 법률서면 역시 매우 신중하게 작성하여 제출해야 합니다.

​

한편, AI가 추천하는 증거 리스트 중에는 나에게 유리한 부분과 불리한 부분이 섞여 있을 수 있습니다. 어떤 증거를 제출할 때 증거에 기재된 작은 문구, 맥락, 도장의 인영, 날짜를 모두 확인해 보아야 하는데 현재까지 Ai는 이를 모두 검토해 주지는 않는 것 같습니다.

IV. 절차 진행의 한계점

Ai의 치명적인 단점은 물어보지 않으면 답변하지 않는다는 것입니다.

소송은 서면 한 장으로 끝나는 단거리 경주가 아닙니다. 수개월, 수년이 걸리는 마라톤이죠. 그런데 AI는 여러분이 묻는 말에만 답합니다. "지금 사실조회를 신청해야 합니다"라거나 "상대방 주장에 대해 이런 반박 증거를 준비하세요"라고 먼저 알려주지 않습니다. 절차를 모르는 상태에서 AI만 믿고 가다가는 중요한 타이밍을 놓치다가는 낭패를 볼 수도 있습니다.

​IV. 결론 및 제안

제 조언은 “AI는 위험하니 사용하지 말라”라는 것이 전혀 없습니다. 오히려 Ai 활용은 이제 거스를 수 없는 대세라는 점을 말씀드리고 싶습니다. 제가 제안하는 가장 현명한 방법은 전문가의 조력과 Ai를 결합하는 것입니다. Ai에만 의존하기보다는 제3자의 시선에서 당신의 주장을 검증해 줄 (휴먼) 변호사의 조력을 결합해서 활용하세요.

그렇게 할 때 좀 더 훨씬 효율적이고 정확히 대응할 수 있습니다. 단순히 변호사만 혹은 Ai를 통한 나홀로 소송보다, "변호사 + Ai 활용"으로 결합하여 소송을 진행하면 상대방보다 더 유리한 고지에서 설 수 있을 것입니다. 제가 유사한 주자로 작성한 포스팅도 참고해 보시기 바랍니다.

주상현 변호사는 대한변협 등록 민사법/형사법 전문 변호사입니다. 법률상담 및 수임 상담과 관련하여 언제라도 연락주시기 바랍니다.