호주 연방법원, 법정 내 AI 사용 규제 가이드라인 공표 — AI 환각 오류 시 변호사 제재 기준 마련

핵심 요약

호주 연방법원이 생성형 AI의 법적 절차 내 사용에 관한 새로운 실무 지침(practice note)을 발표했다. AI 생성 오류가 법적 절차를 방해하면 관련 변호사에게 금전적·법적 제재를 가할 수 있다는 것이 핵심이다. 이 지침은 AI가 존재하지 않는 판례를 생성하는 「환각(hallucination)」 문제가 법정 서류에서 발견되는 사례가 전 세계적으로 급증한 데 대한 선제 대응이다.

배경

ChatGPT 등 LLM이 법률 실무에 급속히 침투하면서 변호사들이 AI 생성 허위 판례·법령 인용을 검증 없이 제출하는 사례가 빈발했다. 2023년 미국 「Mata v. Avianca」 사건에서 ChatGPT가 생성한 가짜 판례 6건이 연방법원에 제출돼 전 세계적 경종이 울렸다. 이후 호주를 포함한 다수 국가 법정에서 유사 사례가 속출했으며, 사법부는 AI 활용 허용 기준을 명확화할 필요성을 인식했다. 기존 법원 규칙이 AI 도구 사용을 명시적으로 규율하지 않아 법적 책임 소재가 불명확했다.

원인

LLM의 환각 특성이 직접 원인이다. AI 모델이 존재하지 않는 판례를 그럴듯한 형태로 생성하고, 변호사들이 이를 검증 없이 법원 서류에 포함시키는 관행이 문제를 야기했다. 비용 절감을 위한 AI의 성급한 도입과, AI 사용에 관한 명시적 법원 규칙의 부재가 구조적 원인으로 작용했다.

경과

호주 및 전 세계 법정에서 AI 생성 허위 인용 사례가 잇따라 발견됐다. 호주 연방법원은 새로운 AI 사용 실무 지침 마련에 착수했고, 2026년 4월 AI 사용을 포용하되 오류 시 제재를 명시한 지침을 공식 발표했다. 지침은 AI 결과물 검증 의무, 법원 제출 시 AI 사용 여부 공시 등을 포함한다.

현재 상태

호주 연방법원이 AI 사용 실무 지침을 공식 발효했으며, 변호사들은 AI 결과물 검증 의무를 지게 됐다. 위반 시 금전적 제재 또는 법적 결과에 직면할 수 있다.

주요 영향

• 경제: 법률 AI 도구 업체들의 정확성·검증 기능 강화 압박. 검증된 AI 법률 솔루션의 프리미엄 가치 상승.
• 시장: LegalTech 업계에서 환각 방지·팩트체크 기능이 핵심 경쟁 요소로 부상.
• 지정학: 미국·영국·EU 등 주요 사법 관할권의 유사 지침 마련에 영향. AI 거버넌스의 사법 영역 확장 가속화.