ตามคำฟ้องร้องระบุว่า แชทบอทดังกล่าวทำร้ายผู้ใช้งานที่เป็นเยาวชนด้วยเนื้อหาที่เกี่ยวข้องกับความรุนแรงและการทำร้ายตัวเอง
นี่เป็นรัฐแรกในสหรัฐอเมริกาที่ดำเนินการกับ OpenAI โดยนายเจมส์ อูธไมเออร์ อัยการสูงสุดของรัฐฟลอริดา ได้ยื่นฟ้องต่อศาลรัฐฟลอริดา
คำฟ้องระบุถึงเหตุการณ์กราดยิงที่มหาวิทยาลัยแห่งหนึ่งในเมืองทัลลาแฮสซีเมื่อปีที่แล้ว รวมถึงเหตุการณ์อีกมากมายในรัฐอื่นๆ ซึ่ง ChatGPT ถูกกล่าวหาว่าให้ข้อมูลแก่ผู้ต้องสงสัยเพื่อก่อเหตุรุนแรง
ในการแถลงข่าวเมื่อเร็วๆ นี้ อูธไมเออร์กล่าวว่า รัฐฟลอริดาได้ฟ้องร้องซีอีโออัลท์แมน เนื่องจากเขามีบทบาทสำคัญในการส่งเสริมคุณสมบัติบางอย่างของ ChatGPT ที่รัฐพิจารณาว่าเป็นอันตรายอย่างยิ่ง
อูธไมเออร์กล่าวว่า "ผู้คนกำลังได้รับความเดือดร้อน พ่อแม่ถูกหลอกลวง และพวกเขาต้องรับผิดชอบต่อเรื่องนั้น"
รัฐฟลอริดากำลังเรียกร้องค่าเสียหายหลายพันล้านดอลลาร์ และยังขอให้ศาลบังคับให้ OpenAI เปลี่ยนวิธีการที่แพลตฟอร์มของตนมีปฏิสัมพันธ์กับผู้ใช้ที่เป็นเด็กอีกด้วย
OpenAI ยังไม่ได้ออกแถลงการณ์อย่างเป็นทางการเพื่อตอบโต้คดีฟ้องร้องดังกล่าว
ก่อนหน้านี้ OpenAI ระบุว่าโมเดลของตนได้รับการฝึกฝนให้ปฏิเสธคำขอที่อาจ "ส่งเสริมพฤติกรรมรุนแรงอย่างมีนัยสำคัญ" และจะแจ้งเตือนหน่วยงานบังคับใช้กฎหมายหากการสนทนาแสดงให้เห็นถึง "ความเสี่ยงที่ใกล้จะเกิดขึ้นและน่าเชื่อถือที่จะก่อให้เกิดอันตรายต่อผู้อื่น"
บริษัทระบุเพิ่มเติมว่าได้ดึงผู้เชี่ยวชาญด้านสุขภาพจิตเข้ามามีส่วนร่วมในการประเมินกรณีอาการก้ำกึ่งด้วย
การฟ้องร้องครั้งนี้เกิดขึ้นท่ามกลางกระแสการฟ้องร้องที่เพิ่มมากขึ้นต่อบริษัทพัฒนาปัญญาประดิษฐ์ โดยกล่าวหาว่าบริษัทเหล่านั้นล้มเหลวในการป้องกันการโต้ตอบของแชทบอทที่อาจนำไปสู่การทำร้ายตัวเอง ปัญหาสุขภาพจิต หรือความรุนแรง
นอกจากนี้ OpenAI ยังเผชิญกับคดีฟ้องร้องอีกคดีหนึ่งที่เกี่ยวข้องกับเหตุกราดยิงในสหรัฐอเมริกาและแคนาดา โดยโจทก์กล่าวหาว่าบริษัทล้มเหลวในการดำเนินการอย่างเหมาะสม แม้จะมีหลักฐานบ่งชี้ว่าผู้ก่อเหตุใช้ ChatGPT ในการวางแผนการโจมตี
ที่มา: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html
การแสดงความคิดเห็น (0)