จีนตอบโต้แชทบอท AI อย่างรุนแรง

กฎระเบียบใหม่นี้จะช่วยให้จีนควบคุมแชทบอท AI ได้เข้มงวดมากขึ้น โดยมีเป้าหมายเพื่อป้องกันเนื้อหาที่เกี่ยวข้องกับการฆ่าตัวตาย การพนัน และภาพลามกอนาจาร

แชทบอท AI มีความสามารถในการควบคุมอารมณ์ของผู้ใช้ ภาพ : AFP

จีนกำลังวางแผนที่จะเข้มงวดการควบคุมแชทบอท AI ที่สามารถมีอิทธิพลต่ออารมณ์ของมนุษย์ โดยเฉพาะอย่างยิ่งแชทบอทที่มีเนื้อหาส่งเสริมการฆ่าตัวตาย การทำร้ายตัวเอง หรือพฤติกรรมที่เป็นอันตรายอื่นๆ มาตรการนี้ระบุไว้ในร่างกฎระเบียบใหม่ที่เผยแพร่โดยสำนักงานบริหารไซเบอร์สเปซแห่งประเทศจีนเมื่อวันที่ 27 ธันวาคม

จาก คำแปลของ CNBC เอกสาร ฉบับร่างนี้มุ่งเป้าไปที่ "บริการปัญญาประดิษฐ์เชิงโต้ตอบที่เหมือนมนุษย์" ซึ่งหมายถึงระบบ AI ที่สามารถเลียนแบบบุคลิกภาพ พฤติกรรม และการสื่อสารของมนุษย์ผ่านข้อความ รูปภาพ เสียง หรือ วิดีโอ กฎระเบียบเหล่านี้จะใช้กับผลิตภัณฑ์และบริการ AI ทั้งหมดที่เปิดให้บริการในประเทศจีนเมื่อได้รับการอนุมัติขั้นสุดท้าย ระยะเวลาการรับฟังความคิดเห็นจากสาธารณะจะสิ้นสุดในวันที่ 25 มกราคม

วินสตัน มา ศาสตราจารย์รับเชิญจากคณะนิติศาสตร์ มหาวิทยาลัยนิวยอร์ก (NYU) เชื่อว่านี่อาจเป็นความพยายามครั้งแรก ของโลก ในการสร้างกรอบกฎหมายเฉพาะสำหรับระบบ AI ที่มีลักษณะ "คล้ายมนุษย์" เขาตั้งข้อสังเกตว่าข้อเสนอนี้เกิดขึ้นในขณะที่บริษัทจีนกำลังเร่งพัฒนาผู้ช่วยเสมือนจริง AI

เมื่อเปรียบเทียบกับกฎระเบียบด้านปัญญาประดิษฐ์ของจีนที่ออกในปี 2023 นายหม่าเชื่อว่าร่างกฎระเบียบฉบับใหม่นี้แสดงให้เห็นถึงการเปลี่ยนแปลงจุดเน้นจาก "ความปลอดภัยของเนื้อหา" ไปสู่ ​​"ความปลอดภัยทางอารมณ์" ซึ่งสะท้อนให้เห็นถึงความกังวลที่เพิ่มขึ้นเกี่ยวกับผลกระทบทางจิตวิทยาของปัญญาประดิษฐ์ต่อผู้ใช้งาน

ร่างระเบียบดังกล่าวระบุว่า แชทบอท AI ต้องไม่สร้างเนื้อหาที่ส่งเสริมการฆ่าตัวตาย การทำร้ายตัวเอง หรือความรุนแรงทางวาจา รวมถึงการบิดเบือนทางอารมณ์ในรูปแบบใด ๆ ที่เป็นอันตรายต่อสุขภาพจิต ในกรณีที่ผู้ใช้แสดงเจตนาฆ่าตัวตาย ผู้ให้บริการเทคโนโลยีจะต้องให้บุคคลอื่นเข้ามารับช่วงการสนทนาต่อและติดต่อผู้ปกครองหรือบุคคลที่ได้รับมอบหมายของผู้ใช้โดยทันที

นอกจากนี้ แชทบอท AI ยังถูกห้ามไม่ให้สร้างเนื้อหาที่เกี่ยวข้องกับการพนัน ภาพลามกอนาจาร หรือความรุนแรง ผู้เยาว์สามารถใช้ AI เพื่อการให้กำลังใจทางอารมณ์ได้ก็ต่อเมื่อได้รับความยินยอมจากผู้ปกครอง และต้องปฏิบัติตามข้อจำกัดด้านเวลาด้วย

จีนกำลังเข้มงวดกฎระเบียบเกี่ยวกับแชทบอท AI ภาพ: บลูม เบิร์ก

ข้อเสนอดังกล่าวได้รับการประกาศไม่นานหลังจากที่บริษัทสตาร์ทอัพด้านแชทบอท AI รายใหญ่ของจีนสองแห่ง ได้แก่ Z.ai และ Minimax ยื่นขอเสนอขายหุ้นต่อสาธารณะครั้งแรก (IPO) ในฮ่องกงเมื่อเดือนธันวาคม

Minimax เป็นที่รู้จักจากแอปพลิเคชัน Talkie AI และเวอร์ชันในประเทศจีนอย่าง Xingye ซึ่งคิดเป็นสัดส่วนมากกว่าหนึ่งในสามของรายได้ของบริษัทในช่วงสามไตรมาสแรกของปี โดยมีผู้ใช้งานเฉลี่ยมากกว่า 20 ล้านคนต่อเดือน ในขณะเดียวกัน Z.ai (Zhipu) ระบุว่าเทคโนโลยีของตนถูกนำไปใช้ในอุปกรณ์ประมาณ 80 ล้านเครื่องแล้ว แม้ว่าจะไม่ได้เปิดเผยตัวเลขผู้ใช้งานที่เฉพาะเจาะจงก็ตาม

ในบริบทระดับโลก ผลกระทบของ AI ต่อสุขภาพจิตของมนุษย์กำลังได้รับความสนใจเพิ่มมากขึ้น เนื่องจากหลายประเทศและบริษัทเทคโนโลยีเริ่มเผชิญกับความเสี่ยงทางสังคมที่เกิดจากเทคโนโลยีนี้

ที่มา: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html