chatgpt활용한 법률자문으로 3,250억원 소송 패소한 사건 

부장검사출신 박CLO는 법률사무소 고호에서 운영하는 블로그입니다.

최근 챗GPT나 구글 제미나이와 같은 생성형 AI를 업무나 일상에서 활용하는 분들이 정말 많습니다.

​

저 역시 효율적인 업무 처리를 위해 AI를 참고할 때가 있습니다. 하지만 법률과 같이 개인의 인생이나 기업의 운명이 걸린 중대한 사안에서 AI의 답변에만 의존하는 것은 매우 위험한 일이 될 수 있습니다.

오늘은 최근 미국에서 화제가 된 사례와 함께 구글의 AI 교육 과정에서 강조하는 안전 수칙, 최근 기술 트렌드인 휴먼인더루프(Human-in-the-Loop)의 중요성에 대해 정리해 드리겠습니다.

3,250억 원 소송 패소의 원인이 된 AI 조언

최근 언론 보도에 따르면 한 대기업이 해외 개발사와의 성과급 분쟁에서 약 3,250억 원(2억 5천만 달러)에 달하는 막대한 금액을 지급해야 할 상황에 처하자 사내 법무팀의 경고를 무시하고 챗GPT에게 자문을 구했다고 합니다.

회사는 AI가 제안한 전략에 따라 핵심 직원을 해고하는 등 계약 이행을 피하려 했으나 법원은 이를 두고 "명백히 사후에 만들어낸 핑계"라며 회사의 패소를 선고했습니다.

법률적 판단을 전문가가 아닌 AI에게 전적으로 의존했을 때 발생할 수 있는 치명적인 리스크를 극명하게 보여주는 사례입니다.

​

안전한 AI 사용을 위한 ACT 체크리스트

그렇다면 우리는 AI를 어떻게 활용해야 안전할까요? 구글의 AI 기초 교육 과정에서 제시하는 ACT 체크리스트를 법률적 관점에서 해석해 보겠습니다.

1. Ask yourself (스스로에게 물어보십시오)

​

가장 먼저 이 작업에 AI를 쓰는 것이 적절한지 판단해야 합니다. 구글 가이드라인에서도 의료나 법률 그리고 재무와 같은 전문적인 조언은 절대 AI에게 의존하지 말고 자격을 갖춘 전문가와 상담할 것을 권고하고 있습니다.

​

특히 민감한 내부 데이터나 개인정보를 공개된 AI 툴에 입력하는 행위는 심각한 보안 사고로 이어질 수 있으므로 절대 피해야 합니다.

2. Check before you use the output (결과물을 반드시 확인하십시오)

​

AI가 내놓는 답변이 아무리 논리적이고 그럴듯해 보여도 모두 사실인 것은 아닙니다. 특히 챗GPT와 같은 AI는 사용자가 원하는 방향으로 답변을 맞추려는 '아첨 편향(sycophancy bias)'을 보일 때가 많습니다.

​

사용자가 계약을 깨고 싶다는 의도를 가지고 질문하면 법적 타당성과 관계없이 질문자의 비위를 맞추는 소설을 쓸 수 있다는 의미입니다.

​

실제로 최근 어떤 변호사가 AI가 만들어낸 가짜 대법원 판례를 그대로 답변서에 인용했다가 재판부로부터 경위서 제출 명령을 받은 사례도 있습니다.

제시된 정보에 환각 현상이 없는지 팩트체크를 하는 과정은 필수입니다.

​

3. Tell people when you use AI (사용 사실을 투명하게 밝히십시오)

​

업무 과정에서 AI의 도움을 받았다면 이를 투명하게 밝히고 가이드라인을 준수해야 합니다.

책임감 있게 AI를 사용하는 것은 단순히 실수를 줄이는 차원을 넘어 전문가로서의 진실성을 지키는 일이기 때문입니다.

​

핵심은 '휴먼인더루프(Human-in-the-Loop)', 인간 전문가의 개입입니다.

최근 AI 기술 분야에서 가장 중요하게 떠오르는 개념 중 하나가 바로 '휴먼인더루프(Human-in-the-Loop)'입니다.

​

이는 AI가 모든 것을 독자적으로 처리하게 두는 것이 아니라 시스템의 순환 고리(Loop) 안에 반드시 '인간(Human)'이 개입하여 최종적인 판단과 검증을 수행해야 한다는 원칙입니다.

법률 분야에서 이 '휴먼'의 역할은 단순히 오타를 고치는 수준이 아닙니다. AI가 생성한 법리적 해석의 오류를 잡아내고 복잡한 사건의 맥락과 인간적인 변수까지 읽어낼 수 있는 전문 변호사가 루프 안에 있어야만 비로소 안전한 법률 서비스가 완성됩니다.

AI는 훌륭한 조수일 수 있지만 최종적인 책임과 판단을 내리는 주체는 반드시 경험이 풍부한 전문가여야 한다는 뜻입니다.

​

결론 : 인간 전문가의 판단은 AI로

대체될 수 없습니다!!

AI는 방대한 데이터를 분석하고 아이디어를 얻는 도구로서는 매우 훌륭합니다.

​

하지만 법률 문제는 개별 사건마다의 미묘한 맥락과 증거의 가치를 판단해야 하는 영역입니다.

AI가 주는 답변은 보편적인 정보일 뿐 여러분의 구체적인 상황에 맞는 정확한 법적 조언이 될 수 없습니다.

​

중요한 법적 결정 앞에서는 여러분의 리스크를 정확히 짚어줄 수 있는 법률 전문가를 찾으셔야 합니다.

​

법률적 고민이 있으시다면 언제든 고호법률사무소에 상담 신청해 주시기 바랍니다.

상담 전에 제 네이버 블로그 글을 읽어보시면 형사사건의 판단구조에 대하여 쉽게 이해하실 수 있습니다.

최근 개설한 유튜브도 방문해서

구독하시면 아직은 영상이 많지 않으나

앞으로 형사사건에 대한 많은 정보를

얻어가실 수 있을 겁니다.

내편박변 박종민 변호사