⚖️AI 정보 신뢰의 위험과 법적 책임 

안녕하세요, 고재영 변호사입니다.

최근 AI 서비스들이 대중화되면서, 간단한 정보부터 복잡한 문제까지 AI에게 먼저 묻는 분들이 많아졌습니다.

그런데 만약 AI가 잘못 알려준 정보 때문에 법을 위반한 상황이 발생했다면, 그 책임을 피할 수 있을까요? 실제로 “AI가 알려준대로 했을 뿐이다"라는 변명이 통할 수 있을지 알아보려고 합니다.

1️⃣ 당연하게도, AI가 알려주는대로 따랐다고, 책임이 면제되지 않습니다.

AI가 알려주는 정보는 어떠한 공신력이 없기에, AI가 알려주는 정보를 믿고 행동했다 하더라도, 책임이 면제되지 않습니다.

특히 우리 형법 은 ‘법률의 부지(법을 알지 못했다)'는 이유로, 잘못을 정당화 할 수 없다는 원칙을 세워두고 있고, 대법원도 이에 따라 판단하고 있습니다.

즉 AI가 알려준 내용이 틀렸더라도, 그 정보만 믿고 위법 행위를 저질렀다면 처벌은 피할 수 없습니다.

2️⃣법적 책임은 결국 행위자에게 귀속되니, 무작정 AI만 믿을 일이 아닙니다.

AI 서비스는 법률 전문가가 아니며, 개별 사건의 맥락을 정확히 반영하지 못하는 경우가 많습니다. 특히 AI의 특성상, 사용자가 입력한 정보가 불완전하면 결과가 달라지는 리스크가 크게 존재합니다.

AI는 추가적인 정보가 더 필요함에도, 자신에게 주어진 정보만으로 섣불리 판단하는 경우도 있습니다.

그런데도 검증을 하지 않고 무작정 AI를 믿었다가, 일이 벌어지고 나서 “AI가 알려주는 내용을 그대로 믿었다”는 변명은 통하지 않습니다.

※ 법률의 착오가 아주 예외적으로 인정되는 경우가 있습니다.

형법 제16조는 "자기의 행위가 법령에 의하여 죄가 되지 아니하는 것으로 오인한 행위는 그 오인에 정당한 이유가 있는 때에 한하여 벌하지 아니한다."고 정하고 있습니다. 그러나 이 ‘정당한 이유’는 매우 좁게 해석되고, 국가기관 등 공신력 있는 정보제공자가 잘못된 정보를 제공한 경우에야 인정됩니다. 따라서 단순한 인터넷 글, 주변인의 말, 기사, 블로그, 그리고 AI 서비스의 답변은 모두 ‘정당한 이유’로 인정되지 않을 것입니다.

3️⃣ 실제 AI 정보 의존이 문제되는 경우

• 성범죄, 디지털 성범죄와 관련하여, “이 정도는 합성이라 불법 아니다”라는 AI의 잘못된 정보를 믿고 촬영물 편집·공유

• 보험·금융 분야에서 “이건 신고하지 않아도 된다”는 답변을 듣고 미보고하거나 허위 신고하는 경우

• 인터넷에서 획득한 이미지를, "원작자의 허락 없이 사용할 수 있는 이미지입니다"라는 잘못된 정보를 믿고 사용하였다 문제가 되는 경우

AI의 답변을 무조건 신뢰하였다 문제가 발생하면, 결국 행위자 본인에게 모든 책임이 돌아옵니다.

결국 행위자 본인을 위해서, AI는 상황 판단의 “힌트” 정도로만 활용해야 하고, 법적 위험이 있는 사안은 반드시 전문가 상담을 거쳐야 합니다.

4️⃣ 정리

AI는 유용한 도구이고, 이제 AI와 함께 살아가는 것이 당연한 세상입니다. 그러나 AI가 제공하는 정보를 믿었다는 이유로, 행위자의 책임이 면제되지 않습니다.

따라서 법률 리스크가 발생할 수 있는 일은, AI가 제공하는 정보는 참고자료로만 사용하고, 절대적으로 신뢰하지는 말아야 합니다.

법적 리스크가 조금이라도 있는 상황이라면, 반드시 사전에 법률 전문가와 상담하는 것이 가장 안전한 방식입니다.

스스로를 지키기 위해 리스크가 있는 법률적 판단은, AI를 무조건 믿어서는 안됩니다.