0490f719b18360f020b5c6b011f11a39f3c958a20f8bb95b5e


이스라엘 대법원, AI가 만들어낸 ‘허구 판결문’에 질려: 일주일 새 두 번째 사례


최초 보도: 가자 접경 지역의 떠돌이 개를 보호하려던 한 단체가 법정에서 AI가 생성한 가짜 판결문을 근거로 삼았다가 기각당했다.


이스라엘 대법원은 인공지능(AI)이 만들어낸 허구의 판결문을 법적 근거로 제출하는 사례가 반복되자 강력한 경고를 보냈다. 최근 한 동물 보호 단체가 가자지구 인근 떠돌이 개 보호를 위한 청원을 제기하면서, 존재하지 않는 판결문을 AI를 이용해 만들어 제출한 것으로 드러났다.


이에 대해 대법원 판사 노암 솔베르그는 해당 청원을 기각하며, “그동안 법원이 이 새로운 현상에 대해 인내심과 관용을 보였지만, 언제까지나 그럴 수는 없다”고 경고했다.


이번 사건은 일주일 만에 두 번째로 발생한 사례로, AI 기반 법률 자료 사용에 대한 신중한 접근이 필요하다는 목소리가 더욱 커지고 있다.


———


이스라엘 대법원, AI 기반 가짜 판결문 남용에 강경 대응 – ‘배려의 시대는 끝났다’


이스라엘 대법원(Bagatz)이 AI가 생성한 허구의 판결문을 인용한 청원을 즉각 기각하고, 해당 단체에 7,000세켈(약 260만 원)의 소송 비용을 부담하도록 결정했다. 이는 불과 일주일 만에 두 번째 발생한 사례로, 법원이 AI의 부적절한 사용에 대한 입장을 더욱 엄격하게 바꾸고 있음을 시사한다.


“더 이상 인내하지 않겠다” – 법원의 강력한 경고


대법원 판사 노암 솔베르그(Noam Sohlberg)는 이번 사건을 두고 “이는 단순한 실수가 아니라, 반복적으로 나타나는 심각한 현상이며, 법원이 이를 좌시할 수 없다”고 지적했다. 그는 AI 기술이 법률 업무에 유용할 수 있지만, 검증되지 않은 정보를 무분별하게 사용하는 것은 위험하다고 경고하며, “AI가 제공하는 정보 중 유용한 부분은 취하되, 거짓 정보는 버려야 한다”고 강조했다.


솔베르그 판사는 이어 “법원이 지금까지는 신기술이 도입되는 과정에서 인내와 유연성을 보여왔으나, 이제는 책임을 묻겠다”며 앞으로 AI를 오용한 법률 문서 제출에 대해 더욱 엄격하게 대응할 것이라고 밝혔다.


가자지구 떠돌이 개 보호 청원 – 가짜 판결문으로 기각


이번 사건의 당사자인 ‘개 권리 증진 협회’는 올해 1월, 이스라엘 농무부를 상대로 대법원에 청원을 제기했다. 이들은 최근 농무부가 떠돌이 개 사살을 허용하는 임시 조치를 1년 연장한 것에 반대하며, 해당 조치가 동물 보호법(חוק צער בעלי חיים)에 위배된다고 주장했다.


특히, 단체 측은 “사살 조치 외에도 대체 방안이 충분히 존재한다”고 강조했으나, 문제는 이들이 청원서에서 인용한 판례들이 모두 AI가 만들어낸 허구의 판결문이었다는 점이다. 법원과 관련 기관이 해당 판례를 조회했으나, 실제 존재하지 않는 판결들이었다.


이에 법원은 단체 측에 해당 판례의 출처를 밝히도록 요구했지만, 명확한 답변을 받지 못했다. 결국 법원은 청원을 즉각 기각하고, 7,000세켈의 소송 비용을 부담하도록 명령했다.


법원: “거짓 판례 제출, 변명의 여지 없어”


솔베르그 판사는 판결문에서 “법원이 요구하는 가장 기본적인 원칙은, 법정에 제출되는 문서가 진실에 기반해야 한다는 것”이라며 “거짓 판례를 기반으로 한 청원은 받아들일 수 없다”고 강조했다.


그는 또한 “AI 기반 도구들이 법률가들에게 큰 도움을 줄 수 있지만, 무책임하게 사용될 경우 심각한 문제를 초래할 수 있다”며, 변호사들은 반드시 AI가 생성한 정보를 직접 검증해야 한다고 경고했다.


AI 남용, 이스라엘 법조계 전반으로 확산


이번 사건과 유사한 사례는 지난주에도 발생했다. 한 변호사가 이혼 소송을 진행하며 AI가 생성한 가짜 판결문을 인용해 청원을 제출했다가 기각당했다. 당시 법원은 변호사가 “출처를 명확히 밝히지 않고 AI 기반 정보를 무비판적으로 신뢰했다”고 지적하며, 이 같은 행위를 더 이상 용납하지 않겠다고 밝혔다.


더 나아가, 최근 텔아비브 노동법원에서도 AI 기반 허위 판례가 제출된 사건이 발생했다. 한 변호사는 재판 자료를 인턴에게 검토하도록 맡겼는데, 인턴이 AI를 활용해 존재하지 않는 판례를 추가했고, 이를 검토 없이 법원에 제출하는 실수를 저질렀다. 법원은 해당 변호사가 실수를 인정한 점을 감안해 소송 자체를 기각하지는 않았지만, 4,000세켈(약 150만 원)의 벌금을 부과했다.


법원의 메시지: “AI 활용, 신중하게 접근해야”


법률 전문가들은 이번 판결이 법원이 AI의 부주의한 사용에 대해 엄격한 태도로 전환했음을 보여주는 신호탄이라고 평가하고 있다.


지적재산권 및 AI 법률 전문가 아리엘 도빈스키(Ariel Dubinsky) 변호사는 “이번 판결은 법원이 AI 기술 사용에 대한 명확한 경고를 보낸 사례”라며, “이제 변호사들은 AI를 사용할 때 법적 책임을 더욱 신중히 고려해야 한다”고 말했다.


그는 특히, 법원이 이번 사건에서 7,000세켈의 벌금을 부과한 것은 **“더 이상 AI를 핑계로 무책임한 법률 행위를 용인하지 않겠다는 강력한 메시지”**라고 해석했다.


결론적으로, 이스라엘 대법원은 이제 AI 기반 법률 도구를 활용하는 변호사들이 반드시 해당 정보를 직접 검증해야 하며, 그렇지 않을 경우 심각한 법적 제재를 받을 수 있음을 분명히 했다.

AI 시대에 법률가들의 역할과 책임이 더욱 강조되는 가운데, 이스라엘 법조계가 이에 어떻게 대응해 나갈지 주목된다.


——



진짜 좋은 세상이다..

히브리어 기사를 이렇게 딸깍 번역할 수 있다니


https://www.ynet.co.il/economy/article/rkigkaeskg

https://www.ynet.co.il/economy/article/rkigkaeskg
לבג"ץ נמאס מ"הזיות" ה-AI: פעם שנייה בשבוע שעותרים הסתמכו על פס"ד מומצא

פרסום ראשון: עמותה שביקשה להגן על כלבים משוטטים בעוטף עזה הסתמכה בטיעוניה על בינה מלאכותית שהמציאה פסקי דין שלא היו ולא נבראו. השופט סולברג דחה את העתירה וקבע: "גם אם עד כה נהג בית המשפט סבלנות ומתינות בנושא נוכח העובדה שמדובר בתופעה חדשה - לא לעולם חוסן"

www.ynet.co.il