สำนักงานกฎหมายถูกปรับ 5,000 ดอลลาร์จากการใช้ข้อมูลจาก ChatGPT

OpenAI เปิดตัว ChatGPT ในเดือนพฤศจิกายน 2565 และกลายเป็นกระแสฮือฮาไปทั่วโลก ผู้คนต่างใช้แชทบอทปัญญาประดิษฐ์ (AI) เพื่อวัตถุประสงค์ที่หลากหลาย ไม่ว่าจะเป็นการเขียนอีเมล การทำการบ้าน และอื่นๆ การศึกษาบางชิ้นแสดงให้เห็นว่า Generative AI อาจส่งผลกระทบอย่างมากต่ออุตสาหกรรมกฎหมาย รวมถึงการทำให้งานเป็นระบบอัตโนมัติ อย่างไรก็ตาม แม้แต่มิรา มูราติ ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี (CTO) ของ OpenAI ก็ยังออกมาเตือนว่าการตอบสนองของ AI ไม่ได้แม่นยำเสมอไป

ชายคนหนึ่งฟ้องร้อง Avianca โดยอ้างว่ารถเข็นเหล็กทำให้เขาได้รับบาดเจ็บ Steven Schwartz จาก Levidow, Levidow & Oberman ตัวแทนของโจทก์ ได้ใช้ ChatGPT เพื่อค้นหาข้อมูลเกี่ยวกับคดีความที่เกี่ยวข้องกับคดีที่คล้ายคลึงกัน แต่แชทบอทของ OpenAI กลับนำคดีปลอมขึ้นมาหกคดี

ทนายความของ Avianca และศาลเริ่มเกิดความสงสัยหลังจากที่ไม่สามารถระบุคดีบางคดีที่อ้างถึงในเอกสารได้ สำนักงานกฎหมายที่เป็นตัวแทนของ Avianca, Condon & Forsyth กล่าวว่า บริษัทตระหนักทันทีว่าคดีความ 6 ใน 8 คดีเป็นคดีปลอม

ชวาร์ตซ์ยอมรับว่าได้ขอความช่วยเหลือจาก ChatGPT และ "ไม่ทราบว่าเนื้อหาที่ให้มานั้นอาจเป็นของปลอม" และอ้างว่าเขาไม่ทราบว่า ChatGPT มีศักยภาพในการกุข้อมูลขึ้นมา

นายชวาร์ตซ์กล่าวว่าเขารู้สึกละอายและเสียใจอย่างยิ่งที่ไม่ได้ตรวจสอบข้อมูลที่ ChatGPT ให้ไว้

ผู้พิพากษา พี. เควิน คาสเทล ได้วิพากษ์วิจารณ์บริษัท Levidow, Levidow & Oberman ว่า “ไม่ยอมเปิดเผยความจริงเกี่ยวกับการกระทำของตน” เขากล่าวว่าบริษัทและทนายความได้หลีกเลี่ยงความรับผิดชอบด้วยการส่งเอกสารอ้างอิงปลอมที่สร้างโดย ChatGPT ไม่เพียงเท่านั้น ทนายความยังคงส่งเอกสารปลอมเหล่านี้ต่อไป แม้ว่าจำเลยจะตั้งคำถามถึงความถูกต้องของคดีทั้งหกคดีที่เป็นปัญหา

ผู้พิพากษาคาสเทลได้ปรับ Levidow, Levidow & Oberman เป็นเงิน 5,000 ดอลลาร์ และสั่งให้สำนักงานกฎหมายส่งจดหมายถึงผู้พิพากษาแต่ละคนที่ถูกระบุตัวตนผิดพลาดในคดีสมมติ เขากล่าวว่าความก้าวหน้าทางเทคโนโลยีเป็นเรื่องปกติ และการใช้เครื่องมือปัญญาประดิษฐ์ที่น่าเชื่อถือมาช่วยเหลือนั้นไม่มีอะไรผิด แต่กฎระเบียบในปัจจุบันมีบทบาทสำคัญในการรับรองความถูกต้องของบันทึกของทนายความ

ตามรายงานของ CBS News สำนักงานกฎหมาย Levidow, Levidow & Oberman ระบุว่าจะปฏิบัติตามคำสั่งของ Castel แต่ไม่เห็นด้วยกับข้อสรุปที่ว่าบริษัทกระทำการโดยไม่สุจริต นอกจากนี้ บริษัทยังได้ขอโทษต่อศาลและลูกความ โดยยอมรับว่าได้กระทำผิดพลาดที่ไม่ทราบว่าเทคโนโลยี AI สามารถกุเรื่องขึ้นมาได้

ลิงค์ที่มา