전 세계적으로 사법부의 'AI 환상'에 대한 우려가 커지고 있다

(CLO) 미국의 한 대형 로펌이 인공지능(AI)이 생성한 허위 사건을 법원 문서에 사용한 혐의로 제재를 받고 있습니다. 이 사건은 법률 분야에서 AI가 급속도로 발전함에 따라 직면하는 과제들이 점차 커지고 있음을 보여줍니다.

로펌 모건앤모건은 월마트를 상대로 한 소송에서 허위 사실을 인용한 혐의로 와이오밍주 연방 판사의 조사를 받은 두 변호사에게 1,000명이 넘는 변호사들에게 긴급 경고를 보냈습니다. 변호사 중 한 명은 AI를 사용하여 검색을 진행했다는 사실을 인정하고 의도치 않은 실수에 대해 사과했습니다.

일러스트: Unsplash

AI가 "법적 환상"을 만들어낸 것은 이번이 처음이 아닙니다. 2023년 6월, 뉴욕 변호사 두 명이 ChatGPT가 제공한 가짜 사례를 이용한 혐의로 5,000달러의 벌금을 부과받았습니다.

2023년 11월, 텍사스의 한 변호사는 유사한 오류로 2,000달러의 벌금형을 선고받고 법률 AI 과정을 수강하라는 명령을 받았습니다. 지난달에는 미네소타의 한 허위 정보 전문가가 AI가 생성한 가짜 인용문을 사용했다는 이유로 법정에서 신뢰도가 훼손되었습니다.

법률 연구 및 초안 작성에 AI를 활용하는 것이 점점 더 보편화되고 있습니다. 톰슨 로이터의 설문 조사에 따르면, 변호사의 63%가 업무에 AI를 활용했으며, 그중 12%는 정기적으로 활용하고 있습니다.

전문가들은 생성적 AI가 매우 확실하게 데이터를 조작할 수 있으며, 철저한 검증이 없다면 심각한 위험을 초래할 수 있다고 경고합니다.

미국 변호사 협회는 AI가 실수를 할 수 있기 때문에 변호사들이 정보를 검증할 책임이 있다고 강조했습니다. 서퍽 대학교의 앤드류 펄먼 교수는 신중한 검증 없이 AI를 사용하는 것은 "무능하다"고 말했습니다.

콜로라도 대학의 해리 서든 교수는 문제가 기술이 아니라 AI를 책임감 있게 사용하는 방법에 대한 이해 부족이라고 생각합니다.

모건앤모건 사건은 AI 시대로 접어드는 법조계 전체에 중요한 경고입니다. 로펌들은 향후 심각한 법적 문제를 피하기 위해 위험을 통제하고 직원을 교육할 방법을 찾아야 합니다.

Ngoc Anh (Reuters, Abovethelaw에 따르면)

출처: https://www.congluan.vn/moi-lo-ngai-ao-giac-ai-trong-nganh-toa-an-dang-gia-tang-tren-the-gioi-post335161.html