OpenAI가 미국 주 정부로부터 첫 소송을 당했습니다.

6월 1일, 플로리다주는 오픈AI와 CEO 샘 알트만을 상대로 소송을 제기하며, 오픈AI가 ChatGPT 플랫폼의 보안에 대해 허위 진술을 했다고 주장했습니다.

소송 내용에 따르면, 해당 챗봇은 폭력 및 자해와 관련된 콘텐츠를 통해 어린 사용자들에게 피해를 입혔습니다.

오픈AI의 CEO인 샘 알트만. 사진: 로이터

이는 미국에서 오픈AI를 상대로 소송을 제기한 첫 번째 주입니다. 플로리다 주 법무장관 제임스 우트마이어는 플로리다 주 법원에 소송을 제기했습니다.

소송에서는 지난해 탤러해시의 한 대학교에서 발생한 총격 사건과 다른 주에서 발생한 수많은 사건들을 예로 들며, ChatGPT가 용의자들에게 폭력 행위를 저지르는 데 필요한 정보를 제공했다고 주장합니다.

최근 기자회견에서 우트마이어는 플로리다 주가 소송을 제기한 이유는 알트만 CEO가 주 정부가 가장 유해하다고 판단하는 ChatGPT의 일부 기능을 홍보하는 데 핵심적인 역할을 했기 때문이라고 밝혔습니다.

"사람들이 상처받고, 부모들이 속고 있습니다. 그들은 이에 대한 책임을 져야 합니다."라고 우트마이어는 말했습니다.

플로리다주는 수십억 달러의 손해배상을 요구하고 있으며, 법원에 OpenAI가 자사 플랫폼이 어린 사용자들과 상호작용하는 방식을 바꾸도록 강제해 줄 것을 요청하고 있습니다.

OpenAI는 아직 소송에 대한 공식적인 답변을 내놓지 않았습니다.

앞서 오픈AI는 자사 모델이 "폭력적인 행동을 상당히 조장할 수 있는" 요청을 거부하도록 훈련되었으며, 대화에서 "타인에게 임박하고 신뢰할 만한 위해를 가할 위험"이 감지될 경우 사법 당국에 통보할 것이라고 밝혔습니다.

회사 측은 경계성 인격 장애 환자를 평가할 때 정신 건강 전문가를 참여시킨다고 밝혔습니다.

이번 소송은 인공지능 개발 회사들을 상대로 제기된 소송이 증가하는 가운데 나온 것으로, 해당 회사들이 챗봇과의 상호작용이 자해, 정신 건강 문제 또는 폭력으로 이어질 수 있는 것을 막지 못했다는 주장을 담고 있습니다.

OpenAI는 미국과 캐나다에서 발생한 총격 사건과 관련된 또 다른 소송에도 직면해 있는데, 원고들은 가해자들이 ChatGPT를 사용하여 공격을 계획했다는 증거가 있었음에도 불구하고 회사가 적절한 조치를 취하지 않았다고 주장합니다.

출처: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html