AI Chatbots เสี่ยงต่อเด็ก ผลักดันให้มีการกำกับดูแลนักพัฒนา

นายกรัฐมนตรี ฟูมิโอะ คิชิดะของญี่ปุ่น กล่าวว่าเขาจะเสนอแผนการควบคุมนักพัฒนาปัญญาประดิษฐ์ (AI) ต่อกลุ่ม G7

จุดมุ่งหมายของกฎดังกล่าวคือเพื่อป้องกันการแพร่กระจายข้อมูลที่ผิดพลาด โดยสร้างความตระหนักรู้ให้กับสาธารณชนในการแยกแยะระหว่างภาพและข้อมูลที่สร้างขึ้นโดย AI และสิ่งที่ไม่ได้สร้างขึ้นโดยอัลกอริทึม

คาดว่าแนวปฏิบัติดังกล่าวจะได้รับการเสนอในเร็วที่สุดในฤดูใบไม้ร่วงนี้ ในการประชุมเสมือนจริงของ กลุ่มเศรษฐกิจ ที่ใหญ่ที่สุดในโลก 7 แห่ง (G7)

Snap Inc. ถูกกล่าวหาว่าล้มเหลวในการประเมินความเสี่ยงต่อความเป็นส่วนตัวของข้อมูลของเด็กอย่างเหมาะสมและแม่นยำเมื่อเปิดตัวแชทบอท AI

รายงานระบุว่าญี่ปุ่นมีความกังวลเกี่ยวกับภาพและข้อมูลที่ซับซ้อนที่สร้างขึ้นโดย AI ซึ่งอาจทำให้ประชาชนสับสนและคุกคามเสถียรภาพทางเศรษฐกิจ

ในขณะเดียวกัน หน่วยงานกำกับดูแลข้อมูลของอังกฤษกล่าวว่าแชทบอท AI อาจก่อให้เกิดความเสี่ยงต่อความเป็นส่วนตัวของเด็กได้ ในกรณีนี้คือแชทบอท “My AI” ที่พัฒนาโดย Snapchat ซึ่งเป็นบริษัทเทคโนโลยีของสหรัฐฯ

เจ้าหน้าที่ระบุว่า Snapchat อาจล้มเหลวในการประเมินความเสี่ยงต่อความเป็นส่วนตัวของเด็กจากแชทบอท AI ที่บริษัทเปิดตัวในเดือนเมษายนได้อย่างเหมาะสม สำนักงานคณะกรรมการข้อมูล (ICO) กล่าวว่าหากบริษัทในสหรัฐฯ ไม่สามารถแก้ไขข้อกังวลของหน่วยงานกำกับดูแลได้อย่างเหมาะสม ก็จะพิจารณาแบนแอปพลิเคชัน AI ทั่วประเทศ

“ผลการสอบสวนเบื้องต้นบ่งชี้ว่า Snap ไม่สามารถประเมินความเสี่ยงต่อความเป็นส่วนตัวของเด็กและผู้ใช้รายอื่นได้อย่างเหมาะสมและแม่นยำก่อนเปิดตัวแอปพลิเคชัน AI” ICO กล่าว

อย่างไรก็ตาม แถลงการณ์ของหน่วยงานกำกับดูแลไม่ได้หมายความว่า Snapchat ซึ่งเป็นแอปส่งข้อความที่คนหนุ่มสาวในสหราชอาณาจักรใช้กันอย่างแพร่หลาย ได้ละเมิดกฎหมายคุ้มครองข้อมูล

Snap กล่าวว่ากำลังตรวจสอบการประกาศ ICO และมุ่งมั่นที่จะปกป้องความเป็นส่วนตัวของผู้ใช้ “AI ของเราต้องผ่านกระบวนการตรวจสอบความเป็นส่วนตัวและกฎหมายที่เข้มงวดก่อนที่จะเปิดเผยต่อสาธารณะ” บริษัทเทคโนโลยีของสหรัฐฯ กล่าว “เราจะทำงานร่วมกันอย่างสร้างสรรค์ต่อไปกับ ICO เพื่อแก้ไขข้อกังวลเกี่ยวกับกระบวนการประเมินความเสี่ยงของเรา”

ICO กำลังสืบสวนว่า “AI ของฉัน” ประมวลผลข้อมูลส่วนบุคคลของผู้ใช้ Snapchat ประมาณ 21 ล้านคนในสหราชอาณาจักรได้อย่างไร รวมถึงเด็กอายุ 13-17 ปี

แอปที่พัฒนาโดย Snapchat ขับเคลื่อนโดย ChatGPT ของ OpenAI ซึ่งเป็นตัวอย่างที่มีชื่อเสียงที่สุดของ AI เชิงสร้างสรรค์ที่ผู้กำหนดนโยบายทั่วโลกกำลังมองหาการควบคุมท่ามกลางข้อกังวลด้านความเป็นส่วนตัวและความปลอดภัย

เครือข่ายโซเชียลมีเดีย รวมถึง Snapchat กำหนดให้ผู้ใช้ต้องมีอายุ 13 ปีขึ้นไป แต่ก็ไม่ได้ประสบความสำเร็จในการป้องกันไม่ให้เด็กอายุต่ำกว่าเกณฑ์ใช้แพลตฟอร์มของพวกเขาเสมอไป

ก่อนหน้านี้ในเดือนสิงหาคม 2023 สำนักข่าว Reuters รายงานว่าหน่วยงานกำกับดูแลกำลังรวบรวมข้อมูลเพื่อพิจารณาว่าแอปส่งข้อความนั้นสามารถลบผู้ใช้ที่อายุต่ำกว่าเกณฑ์ออกจากแพลตฟอร์มได้อย่างมีประสิทธิผลหรือไม่

(ตามรายงานของ Bloomberg และ Reuters)

Meta ใช้ข้อมูลผู้ใช้ Facebook และ Instagram เพื่อฝึกแชทบอท AI

Meta กล่าวว่าบริษัทใช้โพสต์สาธารณะบน Facebook และ Instagram ของผู้ใช้เพื่อฝึกผู้ช่วยเสมือนที่เป็นปัญญาประดิษฐ์ (AI) ตัวใหม่ แต่ไม่รวมเนื้อหาที่แชร์เฉพาะกับครอบครัวและเพื่อน ๆ เท่านั้น