AI 가짜 판례 제출 (법조계 배경, 책임 기준, 전망)
AI가 만들어낸 존재하지 않는 판례를 법원에 그대로 제출하면 소송 비용 전부를 부담하거나 변호사가 징계를 받는 방안이 본격 추진됩니다.
저는 이 소식을 접하고 가장 먼저 든 생각이 "이게 왜 이제야"였습니다. 법조계뿐 아니라 AI를 쓰는 모든 직군이 새겨야 할 이야기입니다.
1. AI 가짜 판례, 법정에 들어오기까지의 배경
생성형 AI(Generative AI)가 빠르게 확산되면서 법조계에서도 예상치 못한 문제가 터지기 시작했습니다. 생성형 AI란 텍스트, 이미지, 코드 등을 스스로 만들어내는 인공지능으로, 누구나 한 번쯤 써봤을 대화형 AI 도구가 대표적입니다.
그런데 이 기술에는 치명적인 약점이 있습니다. 바로 할루시네이션(Hallucination)입니다. 할루시네이션이란 AI가 실제로 존재하지 않는 정보를 마치 사실인 것처럼 자신 있게 생성하는 현상을 말합니다.
없는 판례 번호를 그럴듯하게 만들어내는 것이 그 전형적인 예입니다. 진짜 같은 사건번호와 진짜 같은 판결 요지가 한 화면에 떠 있는데, 그 모든 것이 존재하지 않는다는 건 AI를 처음 쓰는 사람에게는 상상하기 어려운 일입니다.
실제로 각급 법원에서는 소송 당사자나 변호인이 AI가 만들어낸 허위 판례를 검증 없이 인용해 제출하는 사례가 꾸준히 보고되고 있습니다. 이에 대법원 산하 법원행정처는 2024년 11월부터 법관 8명과 변호사 2명 등으로 구성된 태스크포스(TF)를 가동했고, 올해 3월 31일 구체적인 대응 방안을 발표했습니다.
저는 이 배경을 읽으면서 가족 일로 변호사를 선임했던 때가 자꾸 떠올랐습니다. 사건이 진행되는 내내 증거 정리도, 방향 설정도 저희 몫이었습니다.
변호사가 실제로 한 일이 소장 한 장이었다면, 그 소장 안의 판례 출처가 AI였다면 어떻게 됐을까. 생각만 해도 아찔합니다. 그런 일이 어디선가 이미 일어났을지도 모른다는 의심이, 이 기사를 본 뒤로 좀처럼 사라지지 않습니다.
2. 책임 기준, 법원이 그어놓은 새로운 선
이번 대응 방안의 핵심은 세 가지 축으로 요약됩니다.
- 허위 판례 제출로 불필요한 소송 비용이 발생하면 해당 당사자가 비용 전부 또는 일부를 부담
- 허위 법령·판례가 담긴 서면에 대해 변론에서 진술 제한 가능, 판결서에도 허위 내용 적시 가능
- 변호사가 AI 생성 허위 판례를 검증 없이 제출할 경우 재판부가 대한변호사협회에 징계 의뢰 가능
여기서 핵심은 "검증 없이"라는 표현입니다. AI 도구 자체를 쓰지 말라는 게 아닙니다. 쓰되, 그 결과물을 반드시 검증하라는 겁니다.
법원행정처는 사법정보공개포털에 허위 사건번호 확인 기능까지 추가했습니다. 사건번호를 입력하면 실제 판결서가 존재하는지 바로 확인할 수 있습니다. 검증 도구를 법원이 직접 만들어 손에 쥐어준 셈입니다.
TF는 여기서 한 발 더 나아가 소송법 개정도 제안했습니다. 소송 당사자가 허위 법령을 인용했을 때 과태료를 부과할 수 있도록 하자는 것이고, 민사소송규칙 개정을 통해 AI 활용 사실을 상대방과 법원에 고지하고 주요 내용의 정확성을 확인하도록 의무화하자는 내용도 담겼습니다.
사실상 AI 사용 공시 의무화(Disclosure Obligation)라고 볼 수 있습니다. AI 사용 공시 의무화란 재판 과정에서 AI를 활용했다면 그 사실을 투명하게 알리고 내용의 정확성을 확인했다는 것을 밝히도록 하는 규정입니다.
저는 이 기준이 변호사에게만 해당한다고 보지 않습니다. 솔직히, 비용이 부담스러워 변호사 없이 직접 AI로 소장을 작성하고 판례를 찾는 분들도 점점 늘고 있습니다.
제가 현장에서 만나는 어르신들도 임대차 분쟁이나 가족 간 갈등 문제로 상담받으러 갔다가 비용 앞에서 돌아오시는 경우가 많습니다. 그분들이 AI에 의존하게 되는 건 자연스러운 흐름인데, AI가 만든 정보를 검증할 방법이 없는 분들에게 이 새로운 제재가 어떻게 작동할지는 계속 걱정이 됩니다.
법은 모두에게 평등하다고 하지만, AI 시대의 검증 능력은 그렇게 평등하지 않습니다. 그 격차를 누가 메울 것인가는 또 다른 숙제로 남습니다.
3. 전망, 이 기준선은 법조계만의 이야기가 아닙니다
법원행정처 관계자는 "생성형 AI 활용 확대는 거스를 수 없는 시대적 흐름"이라고 했습니다. 저도 그 말에 동의합니다.
문제는 흐름이 아니라 그 흐름에 올라탄 사람들의 책임 의식입니다. 도구는 멈추지 않을 것이고, 사람의 자세만이 결국 차이를 만듭니다.
이미 다른 전문직 분야를 보면 이 기준은 이미 작동 중입니다. 의료 현장에서는 AI 기반 진단 보조 도구를 사용해도 최종 판단과 책임은 의사가 집니다.
회계 감사에서는 자동화 도구를 쓰더라도 감사인의 서명이 들어간 순간 그 내용에 대한 법적 책임이 발생합니다. 이것이 전문직의 본질이라고 저는 생각합니다. 도구는 조수(Assistant)이지, 책임의 주체가 될 수 없습니다.
그런데 누군가는 표현의 자유나 도구 활용의 자유를 들먹일 수도 있습니다. 저는 그 논리가 이 맥락에서는 맞지 않는다고 봅니다.
의뢰인의 인생이 걸린 소송에서 검증도 없이 가짜 판례를 내밀고, 결과가 어긋나도 책임을 지지 않는다면 그 직업이 사회에서 차지하는 자리는 흔들릴 수밖에 없습니다. 큰돈을 받고 일은 도구에게 맡기고 책임은 지지 않는 구조는 어떤 직업에서도 오래갈 수 없습니다.
이번 정책은 AI를 막는 게 아니라, AI 시대에 전문직이 어디에 서야 하는지를 다시 그어주는 기준선입니다. 전문직의 정의가 흔들리는 시대에, 누군가는 이 선을 분명히 그어줘야 했습니다.
그리고 제가 보기에 이 흐름은 법조계에서 멈추지 않을 겁니다. 사회복지 현장에서 AI가 복지급여 산정을 잘못 안내했을 때, 교육 현장에서 AI가 잘못된 정보를 교육 자료에 담았을 때, 의료 현장에서 AI 진단 보조 도구의 오류가 치료 방향에 영향을 줬을 때, 그 책임은 누가 질 것인가.
이 질문이 곧 모든 분야에 닥칩니다. 도구가 늘어날수록 책임의 자리는 더 분명해져야 합니다. 이번 정책이 그 출발점이 되어주길 바랍니다. 정답은 잘 모르겠지만, 적어도 이 선이 그어졌다는 것만으로도 한 발 나아간 자리에 와 있다는 생각은 듭니다.
이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 법률 조언이 아닙니다. 실제 소송이나 법률 문제는 반드시 전문 변호사와 상담하시기 바랍니다.