법정 파고든 'AI 환각'…판사 10명 중 8명 "가짜 판례 당했다"

대법, 허위 법령·판례 실태 파악 위해 각급 법관 대상 첫 설문조사 진행

법관 91% "제도적 대응 필요"…과태료 근거 마련·검증 의무 부과 등

AI(인공지능)가 만들어낸 가짜 법률 문서 [그래픽=챗GPT 생성]

법관 10명 중 8명이 인공지능(AI)으로 만들어진 가짜 판례가 재판에 인용된 사례를 경험한 것으로 나타났다.

대법원은 지난달 6일부터 16일까지 각급 법원 법관을 대상으로 진행한 AI 허위 판례 등 인용 관련 설문조사 결과를 2일 공개했다. 이번 설문조사에는 법관 총 360명이 응답했다.

AI 환각(할루시네이션·잘못된 정보를 그럴듯하게 제시하는 것) 현상으로 허위 법령과 판례가 인용되는 사례가 잇따르자 그 실태를 파악하기 위해 대법원이 처음으로 실시한 설문이다.

설문 결과 민사·가사·행정을 담당하는 응답 법관의 약 80%가 존재하지 않는 판례나 주요 내용이 실제와 다른 허위 판례 등이 인용된 사례를 겪었다고 답했다.

유형별로는 부존재 판례 인용을 겪은 법관이 196명(80.7%)으로 가장 많았다. 허위 판례 인용 159명(65.4%), 허위·부존재 법령 인용 41명(16.9%), 허위·부존재 논문·문헌 등 자료 인용 10명(4.1%)이 뒤를 이었다.

허위 판례 등을 인용한 주체로는 당사자 본인을 꼽은 응답이 164명(69.5%)이었으며, 변호사인 소송 대리인이나 변호인을 지목한 법관도 136명(57.6%)에 달했다. 당사자 본인은 물론 변호사가 제출한 서면에서도 허위·부존재 판례 등을 인용한 사례가 다수 확인된 셈이다.

실제 사례로는 대법원 판결서 형식을 그대로 본떠 AI로 만든 허위 판결서를 제출한 경우 또는 대법원 사건번호를 적었으나, 해당 판례가 검색되지 않는 경우가 있었다. 또 판시 내용을 임의로 바꾸거나 판결 취지와 다르게 인용한 사례, AI와의 대화 내용이나 소송 전략에 관한 문구가 서면에 그대로 남은 사례 등도 확인됐다.

응답 법관의 91.7%는 AI 허위 판례 등 인용과 관련해 '제도적 대응 방안 마련이 필요하다'고 답했다. 구체적인 대응 방안으로는 과태료 부과 근거 마련, 인용한 판례 등에 대한 검증 의무 부과, 반복적인 허위 인용에 대한 변호사 징계 의뢰 등이 제시됐다.

법원행정처는 "소송 상대방은 허위 판례의 존재 여부와 인용 내용의 정확성을 확인하고 반박하는 데 추가적인 시간과 비용이 소요될 수 있다"며 "특히 변호사 없이 직접 소송을 수행하는 당사자는 이러한 오류를 찾아내고 대응하는 데 어려움을 겪을 수 있다"고 강조했다.

이어 "재판부 역시 이를 확인하는 데 추가 시간을 쏟게 돼 신속한 재판 진행이 저해될 수 있다"고 덧붙였다.

행정처 관계자는 "AI 활용으로 인한 허위·부존재 판례 등의 인용은 결국 국민의 재판받을 권리를 지연시킨다"며 이번 설문조사 결과를 바탕으로 제도와 실무 양면에서 실효적인 대응 방안을 마련하겠다고 밝혔다.

이에 따라 대법원은 민사소송법과 형사소송법 개정을 통해 과태료 부과 등의 근거 규정을 마련하고자 법무부 등 관계 기관과 협의를 거쳐 국회에 의견을 낼 계획이다.

아울러 변호사와 당사자가 AI를 활용한 인용 자료의 정확성을 확인할 수 있도록 전자소송 사이트에 'AI 활용 시 유의사항'을 안내하는 방안도 검토한다.