AI Chatbots ก่อให้เกิดความเสี่ยงต่อเด็ก ผลักดันให้มีการควบคุมนักพัฒนา

นายกรัฐมนตรี ฟูมิโอะ คิชิดะ ของญี่ปุ่น กล่าวว่า เขาจะเสนอแผนการควบคุมนักพัฒนาปัญญาประดิษฐ์ (AI) ต่อกลุ่ม G7

จุดมุ่งหมายของกฎดังกล่าวคือเพื่อป้องกันการแพร่กระจายข้อมูลที่ผิดพลาด โดยการสร้างความตระหนักรู้แก่สาธารณชนเพื่อแยกแยะระหว่างภาพและข้อมูลที่สร้างโดย AI และสิ่งที่ไม่ได้สร้างโดยอัลกอริทึม

คาดว่าแนวทางดังกล่าวจะได้รับการเสนอในเร็วที่สุดในฤดูใบไม้ร่วงนี้ ในการประชุมเสมือนจริงของ กลุ่มเศรษฐกิจ ที่ใหญ่ที่สุด 7 แห่งของโลก (G7)

Snap Inc. ถูกกล่าวหาว่าล้มเหลวในการประเมินความเสี่ยงต่อความเป็นส่วนตัวของข้อมูลเด็กอย่างเหมาะสมและแม่นยำเมื่อเปิดตัวแชทบอท AI

รายงานระบุว่าญี่ปุ่นมีความกังวลเกี่ยวกับภาพและข้อมูลที่ซับซ้อนที่สร้างขึ้นโดย AI ซึ่งอาจทำให้ประชาชนสับสนและคุกคามเสถียรภาพทางเศรษฐกิจ

ในขณะเดียวกัน หน่วยงานกำกับดูแลข้อมูลของอังกฤษกล่าวว่าแชทบอท AI อาจก่อให้เกิดความเสี่ยงต่อความเป็นส่วนตัวของเด็กได้ ในกรณีนี้คือแชทบอท “My AI” ที่พัฒนาโดยบริษัทเทคโนโลยี Snapchat ของสหรัฐฯ

เจ้าหน้าที่ระบุว่า Snapchat อาจประเมินความเสี่ยงด้านความเป็นส่วนตัวของเด็ก ๆ ที่เกิดจากแชทบอท AI ที่เปิดตัวในเดือนเมษายนได้ไม่ถูกต้อง สำนักงานคณะกรรมการข้อมูลข่าวสาร (ICO) ระบุว่า หากบริษัทสัญชาติอเมริกันแห่งนี้ไม่สามารถแก้ไขข้อกังวลของหน่วยงานกำกับดูแลได้อย่างเพียงพอ ก็จะพิจารณาสั่งห้ามแอปพลิเคชัน AI ดังกล่าวทั่วประเทศ

“ผลการสอบสวนเบื้องต้นชี้ให้เห็นว่า Snap ไม่สามารถประเมินความเสี่ยงต่อความเป็นส่วนตัวของเด็กและผู้ใช้รายอื่นได้อย่างเหมาะสมและแม่นยำก่อนที่จะเปิดตัวแอปพลิเคชัน AI” ICO กล่าว

อย่างไรก็ตาม แถลงการณ์ของหน่วยงานกำกับดูแลไม่ได้หมายความว่า Snapchat ซึ่งเป็นแอปส่งข้อความที่คนรุ่นใหม่ในสหราชอาณาจักรใช้กันอย่างแพร่หลาย ได้ละเมิดกฎหมายคุ้มครองข้อมูล

Snap ระบุว่ากำลังตรวจสอบประกาศของ ICO และมุ่งมั่นที่จะปกป้องความเป็นส่วนตัวของผู้ใช้ “AI ของเราผ่านกระบวนการตรวจสอบความเป็นส่วนตัวและกฎหมายที่เข้มงวดก่อนที่จะเผยแพร่สู่สาธารณะ” บริษัทเทคโนโลยีสัญชาติอเมริกันกล่าว “เราจะทำงานร่วมกับ ICO อย่างต่อเนื่องเพื่อแก้ไขข้อกังวลเกี่ยวกับกระบวนการประเมินความเสี่ยงของเรา”

ICO กำลังสืบสวนว่า “AI ของฉัน” ประมวลผลข้อมูลส่วนบุคคลของผู้ใช้ Snapchat ประมาณ 21 ล้านคนในสหราชอาณาจักรได้อย่างไร รวมถึงเด็กอายุ 13-17 ปี

แอปที่พัฒนาโดย Snapchat ขับเคลื่อนโดย ChatGPT ของ OpenAI ซึ่งเป็นตัวอย่างที่มีชื่อเสียงที่สุดของ AI เชิงสร้างสรรค์ที่ผู้กำหนดนโยบายทั่วโลกกำลังมองหาการควบคุมท่ามกลางข้อกังวลด้านความเป็นส่วนตัวและความปลอดภัย

เครือข่ายโซเชียลมีเดีย รวมถึง Snapchat กำหนดให้ผู้ใช้ต้องมีอายุ 13 ปีขึ้นไป แต่ก็ไม่ได้ประสบความสำเร็จในการป้องกันไม่ให้เด็กที่อายุต่ำกว่าเกณฑ์ใช้แพลตฟอร์มของพวกเขาเสมอไป

ก่อนหน้านี้ในเดือนสิงหาคม 2023 สำนักข่าว Reuters รายงานว่าหน่วยงานกำกับดูแลกำลังรวบรวมข้อมูลเพื่อพิจารณาว่าแอปส่งข้อความสามารถลบผู้ใช้ที่อายุต่ำกว่าเกณฑ์ออกจากแพลตฟอร์มได้อย่างมีประสิทธิผลหรือไม่

(ตามรายงานของ Bloomberg และ Reuters)

Meta ใช้ข้อมูลผู้ใช้ Facebook และ Instagram เพื่อฝึกอบรมแชทบอท AI

Meta กล่าวว่าบริษัทใช้โพสต์สาธารณะบน Facebook และ Instagram ของผู้ใช้เพื่อฝึกผู้ช่วยเสมือนที่เป็นปัญญาประดิษฐ์ (AI) ตัวใหม่ แต่ไม่รวมเนื้อหาที่แชร์เฉพาะกับครอบครัวและเพื่อนเท่านั้น