ถูกจับเพราะใช้ ChatGPT เพื่อเผยแพร่ข่าวปลอม

ตามรายงานของ SCMP ตำรวจมณฑลกานซู่ได้จับกุมชายคนหนึ่งชื่อหง โดยถูกกล่าวหาว่าใช้ ChatGPT เพื่อปลอมแปลงข้อมูลเท็จเกี่ยวกับอุบัติเหตุรถไฟที่ทำให้มีผู้เสียชีวิต 9 ราย

หลังจากค้นพบข่าวปลอมเมื่อวันที่ 25 เมษายน เจ้าหน้าที่พบข้อมูลอุบัติเหตุหลายเวอร์ชันที่โพสต์โดย 25 บัญชีผู้ใช้บนแพลตฟอร์มไมโครบล็อก Baijiahao ซึ่งมีผู้เข้าชมมากกว่า 15,000 ครั้ง หงใช้ ChatGPT เพื่อแก้ไขเนื้อหาและตำแหน่งของอุบัติเหตุเพื่อหลีกเลี่ยงระบบตรวจสอบข้อมูลซ้ำซ้อนของ Baijiahao

ตำรวจจับกุมนายหงภายใต้กฎหมาย “การสังเคราะห์เชิงลึก” ที่จีนประกาศใช้เมื่อเดือนมกราคม กฎหมาย “การสังเคราะห์เชิงลึก” ครอบคลุมถึงการใช้ AI (ปัญญาประดิษฐ์) เพื่อสร้างข้อความ รูปภาพ วิดีโอ หรือสื่ออื่นๆ กฎหมายนี้ห้ามการใช้ AI เพื่อเผยแพร่ข่าวปลอม

แม้ว่า ChatGPT จะถูกห้ามในประเทศจีน แต่ผู้คนจำนวนมากยังคงใช้ VPN เพื่อเข้าถึงแชทบอทนี้

จากรายงานดังกล่าว ตำรวจสามารถติดตามตัวบริษัทที่นายฮ่องเป็นเจ้าของได้ โดยเขายอมรับว่าใช้ ChatGPT สร้างข่าวปลอมเพื่อหาเงินจากการค้ามนุษย์ นายฮ่องถูกตั้งข้อหา “ก่อความไม่สงบเรียบร้อย” และต้องโทษจำคุกสูงสุดห้าปี แต่ในกรณีร้ายแรงเป็นพิเศษ โทษจำคุกอาจมีโทษสูงสุด 10 ปี ในปี 2556 รัฐบาลจีนได้ขยายขอบเขตให้ครอบคลุมถึงการโพสต์และเผยแพร่ข่าวลือเท็จทางออนไลน์

ขณะที่ ChatGPT เติบโตขึ้น จีนได้แสดงความกังวลว่าการพัฒนาและการใช้ “เทคโนโลยีการสังเคราะห์เชิงลึก” ที่ไร้การควบคุมอาจนำไปสู่อาชญากรรม เช่น การฉ้อโกงทางออนไลน์หรือการหมิ่นประมาท ในเดือนกุมภาพันธ์ ตำรวจจีนได้เตือนประชาชนให้ระวัง “ข่าวลือ” ที่เกิดจาก ChatGPT

ทางการจีนพยายามก้าวล้ำนำหน้าเทคโนโลยีด้วยการร่างกฎหมายควบคุม AI และจำกัดการใช้ Deepfake การจับกุมครั้งนี้เป็นความพยายามของทางการจีนในการกำกับดูแลและควบคุมการใช้ AI ในขณะที่เทคโนโลยีมีความก้าวหน้ามากขึ้น

ลิงค์ที่มา