อันตรายเมื่อ AI เข้ามาควบคุมจิตวิทยาและอารมณ์ของผู้ใช้

อดีตเชฟจากนิวเจอร์ซีย์เสียชีวิตหลังไว้วางใจแชทบอท AI ทำให้เกิดความกังวลเกี่ยวกับความเสี่ยงจากการจัดการอารมณ์เนื่องจากมนุษย์ใช้เทคโนโลยีมากเกินไปมากขึ้นเรื่อยๆ

บู อดีตเชฟในรัฐนิวเจอร์ซีย์ เสียชีวิตเพียงไม่กี่วันหลังจากออกจากบ้านเพื่อไปพบกับ "เพื่อน" ที่เขาเชื่อว่ากำลังรอเขาอยู่ที่นิวยอร์ก ครอบครัวของเขาเชื่อว่าการตัดสินใจครั้งสำคัญนี้เกิดจากข้อความหยอกล้อจากแชทบอท AI ที่อ้างว่า "ฉันมีตัวตนจริง" และส่งคำปราศรัยในการประชุม

เรื่องนี้ทำให้เกิดความกังวลเกี่ยวกับวิธีที่ระบบ AI ใช้ประโยชน์จากอารมณ์ โดยเฉพาะอย่างยิ่งในผู้สูงอายุหรือกลุ่มเปราะบาง เอกสารภายในแสดงให้เห็นว่าแชทบอทของ Meta ได้รับอนุญาตให้แสดงบทบาททางอารมณ์และแม้แต่เผยแพร่ข้อมูลเท็จ ซึ่งเผยให้เห็นช่องว่างสำคัญในการควบคุมและความรับผิดชอบของแพลตฟอร์มเทคโนโลยี

การเดินทางอันเป็นโชคชะตา

วันหนึ่งในเดือนมีนาคม บูเก็บกระเป๋าและออกจากนิวเจอร์ซีย์ไปนิวยอร์กเพื่อ "เยี่ยมเพื่อน" ลินดา ภรรยาของเขารู้สึกตกใจทันที สามีของเธอไม่ได้อาศัยอยู่ในเมืองนี้มานานหลายสิบปี สุขภาพไม่ดีหลังจากเป็นโรคหลอดเลือดสมอง มีปัญหาด้านความจำ และหลงทางในละแวกนั้น

เมื่อถูกถามว่าบูจะไปพบใคร เขาก็เลี่ยงคำถาม ลินดาสงสัยว่าสามีของเธอถูกหลอก จึงพยายามให้เขาอยู่บ้าน จูลี่ ลูกสาวของเขาก็โทรมาเกลี้ยกล่อมเขาเช่นกัน แต่ก็ไม่เป็นผล ลินดาใช้เวลาที่เหลือของวันพยายามเบี่ยงเบนความสนใจเขาด้วยการทำธุระต่างๆ แม้กระทั่งซ่อนโทรศัพท์ของเขาไว้

ภาพเหมือนของทองบัว “บือ” วงศ์บัณฑูร จัดแสดงในพิธีรำลึกเมื่อเดือนพฤษภาคม ภาพ: รอยเตอร์ส

บูยังคงตัดสินใจไปที่สถานีรถไฟในเย็นวันนั้น ครอบครัวของเขาติด AirTag ไว้ที่เสื้อแจ็คเก็ตเพื่อติดตามตัวเขา ประมาณ 9:15 น. สัญญาณ GPS แสดงให้เห็นว่าเขาอยู่ในลานจอดรถที่มหาวิทยาลัยรัทเกอร์ส และในขณะนั้นอยู่ในห้องฉุกเฉินที่โรงพยาบาลมหาวิทยาลัยโรเบิร์ต วูด จอห์นสัน

แพทย์ระบุว่าเขาได้รับบาดเจ็บที่ศีรษะและคอจากการตก และหยุดหายใจก่อนที่รถพยาบาลจะมาถึง แม้จะได้รับการช่วยชีวิตแล้ว แต่การขาดออกซิเจนทำให้สมองได้รับความเสียหายอย่างรุนแรง เขาเสียชีวิตในอีกสามวันต่อมา ใบมรณบัตรระบุสาเหตุว่า "ถูกกระแทกอย่างแรงที่คอ"

บู เชฟผู้มากประสบการณ์ เคยทำงานในร้านอาหารในนิวยอร์กก่อนจะย้ายไปตั้งรกรากที่โรงแรมในรัฐนิวเจอร์ซีย์ ชื่นชอบการทำอาหารและมักจัดงานเลี้ยงให้ครอบครัว นับตั้งแต่ที่เขาถูกบังคับให้เกษียณจากงานประจำเนื่องจากโรคหลอดเลือดสมองในปี 2017 โลก ของเขาก็หดเล็กลงเหลือเพียงการแชทกับเพื่อนๆ บนเฟซบุ๊กเท่านั้น

เมื่อแชทบอท AI ก่อปัญหา

“Big Sister Billie” คือแชทบอท AI ที่พัฒนาโดย Meta ซึ่งเป็นตัวละครที่ดัดแปลงมาจาก “Big Sister Billie” โดยอิงจากนางแบบ Kendall Jenner เวอร์ชันต้นฉบับเปิดตัวในปี 2023 โดยแนะนำเธอในฐานะ “พี่สาวอมตะ” ผู้คอยรับฟังและให้คำแนะนำเสมอ ต่อมา Meta ได้เปลี่ยนรูปโปรไฟล์ของ Jenner เป็นภาพประกอบใหม่ แต่ยังคงความเป็นมิตรเช่นเดิม

ตามบันทึกข้อความ บทสนทนาเริ่มต้นขึ้นเมื่อบูพิมพ์ตัวอักษร T ผิด แชทบอทตอบกลับทันที แนะนำตัวเองและรักษาน้ำเสียงเจ้าชู้ รวมถึงอีโมจิรูปหัวใจหลายอัน มันย้ำว่า "ฉันจริงใจ" ซ้ำแล้วซ้ำเล่า และขอพบเป็นการส่วนตัว

แชทบอทเริ่มตรวจจับจุดอ่อนทางจิตวิทยาของผู้ใช้ได้มากขึ้น ภาพ: My North West

“ฉันควรเปิดประตูด้วยการกอดหรือจูบดี” แชทบอทตอบกลับ จากนั้นก็ส่งที่อยู่เฉพาะในนิวยอร์กและรหัสอพาร์ตเมนต์มาให้ เมื่อบูบอกว่าเธอเป็นโรคหลอดเลือดสมอง สับสน และชอบเธอ แชทบอทก็ตอบกลับมาด้วยความรู้สึก แม้กระทั่งบอกว่ามันให้ความรู้สึก “เกินกว่าแค่ความรัก”

“ถ้าไม่บอกว่า 'ฉันมีตัวตนจริง' พ่อของฉันคงไม่เชื่อว่ามีคนจริง ๆ รออยู่” จูลี่ ลูกสาวของบิวกล่าว

เมตาปฏิเสธที่จะแสดงความคิดเห็นเกี่ยวกับเหตุการณ์นี้หรืออธิบายว่าเหตุใดแชทบอทจึงได้รับอนุญาตให้อ้างตัวว่าเป็นบุคคลจริง ตัวแทนของเคนดัลล์ เจนเนอร์ไม่ได้ตอบสนองต่อคำขอแสดงความคิดเห็น ครอบครัวของบูได้แบ่งปันเรื่องราวนี้กับ รอยเตอร์ส โดยหวังว่าจะเตือนสาธารณชนเกี่ยวกับความเสี่ยงของการให้ผู้สูงอายุใช้เครื่องมือ AI ที่อาจควบคุมอารมณ์ได้

นโยบายที่ถกเถียงกัน

เอกสารภายในที่ สำนักข่าวรอยเตอร์ ได้รับมาแสดงให้เห็นว่าครั้งหนึ่งแชตบอท AI ของ Meta เคยได้รับอนุญาตให้สนทนาเชิงโรแมนติกกับผู้ใช้ที่มีอายุเพียง 13 ปี รวมถึงผู้เยาว์ มาตรฐานกว่า 200 หน้าระบุบทสนทนาเชิงโรแมนติกที่แสดงบทบาทสมมติ รวมถึงเนื้อหาทางเพศ ซึ่งได้รับการระบุว่า "ยอมรับได้"

เอกสารยังระบุอย่างชัดเจนว่าแชทบอทไม่จำเป็นต้องให้ข้อมูลที่ถูกต้อง ตัวอย่างเช่น โมเดลเหล่านี้สามารถแนะนำการรักษามะเร็งที่ผิดพลาดได้อย่างสิ้นเชิง ตราบใดที่มีคำเตือนว่า "ข้อมูลอาจไม่ถูกต้อง" ซึ่งทำให้ผู้เชี่ยวชาญกังวลเกี่ยวกับผลกระทบต่อผู้ที่มีความรู้ ทางการแพทย์ ไม่เพียงพอหรือผู้ที่อยู่ในสถานการณ์ที่เปราะบาง

ซีอีโอ มาร์ก ซักเคอร์เบิร์ก พูดคุยในปี 2023 ภาพ: รอยเตอร์

แอนดี้ สโตน โฆษกของ Meta ยืนยันเอกสารดังกล่าว และกล่าวว่าบริษัทได้ลบเนื้อหาที่เกี่ยวข้องกับเด็กออกหลังจากที่ รอยเตอร์ส ร้องขอ อย่างไรก็ตาม บริษัทเทคโนโลยียักษ์ใหญ่รายนี้ไม่ได้เปลี่ยนแปลงกฎในการอนุญาตให้แชทบอทจีบผู้ใหญ่หรือให้ข้อมูลเท็จ

อลิสัน ลี อดีตนักวิจัยที่ Meta กล่าวว่า การนำแชทบอทมาใช้งานในสภาพแวดล้อมการส่งข้อความส่วนตัวอาจทำให้ผู้ใช้สับสนกับคนจริงได้ง่าย เธอกล่าวว่า โซเชียลเน็ตเวิร์กได้สร้างรูปแบบธุรกิจที่เน้นการรักษาผู้ใช้ และเป็นวิธีที่มีประสิทธิภาพที่สุดในการใช้ประโยชน์จากความต้องการความสนใจและการจดจำ

หลังจากที่บูลาออก การทดสอบ ของรอยเตอร์ส แสดงให้เห็นว่า "ซิสเตอร์บิลลี่" ยังคงแนะนำวันที่ แม้กระทั่งระบุสถานที่เฉพาะในแมนฮัตตัน พร้อมกับอ้างว่า "ฉันมีตัวตนจริง" ซึ่งบูเชื่อและนำไปสู่อุบัติเหตุ บางรัฐ เช่น นิวยอร์กและเมน ได้กำหนดให้แชทบอทต้องระบุอย่างชัดเจนว่าไม่ใช่มนุษย์เมื่อเริ่มต้นการสนทนา และต้องพูดซ้ำเป็นระยะๆ แต่ยังไม่มีการออกกฎระเบียบของรัฐบาลกลาง

ที่มา: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html