미국 뉴멕시코주 대법원이 살인사건 항소 서류에 ChatGPT가 생성한 허위 경찰 증언과 가공의 증인이 포함된 것과 관련해 변호사 스티븐 아론스에게 5,000달러의 벌금을 부과하고 법정모독을 선고했다.
문제가 된 항소 서류에는 실제 존재하지 않는 증인들의 허위 증언과 경찰 증언이 포함된 것으로 확인됐다. 법원은 아론스가 법원에 제출한 서류의 사실관계를 제대로 검증하지 않았다고 지적했다.
아론스는 재판 자료를 요약하기 위해 ChatGPT를 사용했다고 밝혔다. 그는 당시 AI가 사실을 만들어내는 이른바 ‘환각’ 현상을 일으킬 수 있다는 점을 충분히 알지 못했다고 설명했다.
뉴멕시코주 대법원은 아론스가 AI를 활용해 작성한 서류의 내용과 법적 근거를 검증하지 않은 점을 문제로 지적했다. 법원은 해당 사건과 관련해 아론스를 변호사 징계위원회에 회부하기로 했다.
이번 사건은 미국 법조계에서 AI가 생성한 자료를 충분한 검증 없이 법원에 제출해 제재를 받는 사례가 이어지는 가운데 발생했다. 최근에도 AI가 허위 판례 인용이나 잘못된 법률 내용을 생성한 사례를 둘러싸고 변호사들이 징계를 받은 사례가 나타나고 있다.