ເດັກນ້ອຍມີຄວາມສ່ຽງຕໍ່ການຕົກເປັນເຫຍື່ອຂອງ AI ເມື່ອພໍ່ແມ່ໂພດຮູບພາບອອນໄລນ໌

ການລະເບີດຂອງຂໍ້ມູນແລະການເຊື່ອມຕໍ່ໃນເຄືອຂ່າຍສັງຄົມໂດຍສະເພາະແລະອິນເຕີເນັດໂດຍທົ່ວໄປໄດ້ເຮັດໃຫ້ປະຊາຊົນຈໍານວນຫຼາຍມີນິໄສທີ່ຈະແບ່ງປັນຄວາມຮູ້ສຶກແລະເຫດການທັງຫມົດໃນຊີວິດສ່ວນຕົວຂອງເຂົາເຈົ້າຢູ່ໃນອິນເຕີເນັດໂດຍບໍ່ໄດ້ຄາດການອັນຕະລາຍທີ່ຈະເຮັດແນວນັ້ນ. ບໍ່ພຽງແຕ່ໂພສຮູບພາບ ແລະ ວິດີໂອ ຂອງຕົນເອງຜ່ານທາງອອນລາຍເທົ່ານັ້ນ, ຜູ້ໃຫຍ່ຫຼາຍຄົນຍັງໃຫ້ສິດຕົນເອງໃນການໂພສເນື້ອຫາທີ່ມີໃບໜ້າ ຫຼື ສຽງຂອງເດັກນ້ອຍໂດຍບໍ່ໄດ້ຮັບອະນຸຍາດ. ເມື່ອຮູບພາບ ແລະວິດີໂອເຫຼົ່ານີ້ປະກົດຂຶ້ນອອນລາຍ, ທຸກຄົນທີ່ມີການເຂົ້າເຖິງສາມາດເອົາພວກມັນໄປໃຊ້ໄດ້ໂດຍບໍ່ມີຂໍ້ຈຳກັດໃດໆ.

ໃນເດືອນກໍລະກົດທີ່ຜ່ານມາ, ເຄືອຂ່າຍ Deutsche Telekom ຂອງເຢຍລະມັນໄດ້ອອກໂຄສະນາແບບຈໍາລອງທີ່ສະແດງໃຫ້ເຫັນວ່າຮູບພາບຂອງເດັກນ້ອຍສາມາດຖືກທາລຸນອອນໄລນ໌, ໂດຍໃຊ້ AI (ປັນຍາປະດິດ) ເພື່ອຈຸດປະສົງຕ່າງໆ. ຫົວຂໍ້ ຂໍ້ຄວາມຈາກ Ella , ຄລິບດັ່ງກ່າວໃຊ້ AI ແລະ Deepfake ເພື່ອສ້າງຮູບພາບ ແລະວິດີໂອຂອງເດັກນ້ອຍ Ella ທີ່ຖືກປະກາດຜ່ານທາງອອນລາຍໂດຍພໍ່ແມ່ຂອງນາງ.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — 'Ella ຜູ້ໃຫຍ່' ສ້າງໂດຍ AI ຈາກຮູບພາບສື່ມວນຊົນສັງຄົມຂອງ Ella ອາຍຸ 9 ປີໃນວິດີໂອເຕືອນຂອງ Deutsche Telekom

"AI Ella" ສາມາດເຄື່ອນທີ່ແລະເວົ້າໄດ້ຄືກັບຄົນທີ່ແທ້ຈິງ, ເຮັດໃຫ້ພໍ່ແມ່ຂອງນາງຕົກໃຈເມື່ອພວກເຂົາເຫັນລູກສາວຂອງພວກເຂົາຢູ່ໃນຫນ້າຈໍຂະຫນາດໃຫຍ່ຂອງໂຮງຫນັງ. ເຖິງແມ່ນນາງສາມາດຮ້ອງໄຫ້ ແລະສະແດງອອກຄືກັບມະນຸດ.

"ຂ້ອຍຮູ້ວ່າສໍາລັບເຈົ້າ, ຮູບພາບເຫຼົ່ານີ້ແມ່ນຄວາມຊົງຈໍາ, ແຕ່ສໍາລັບຄົນອື່ນ, ມັນເປັນຂໍ້ມູນ. ແລະສໍາລັບຂ້ອຍ, ພວກເຂົາສາມາດເປັນຈຸດເລີ່ມຕົ້ນຂອງອະນາຄົດທີ່ຂີ້ຮ້າຍ, ຂີ້ຮ້າຍທີ່ຕົວຕົນຂອງຂ້ອຍສາມາດຖືກລັກ, ຂ້ອຍສາມາດຕິດຄຸກໃນສິ່ງທີ່ຂ້ອຍບໍ່ໄດ້ເຮັດ.

ດ້ວຍຮູບພາບທີ່ແບ່ງປັນພຽງແຕ່ຫນຶ່ງຮູບ, AI ສາມາດສ້າງຮຸ່ນຜູ້ໃຫຍ່ຂອງເດັກຍິງອາຍຸ 9 ປີ. Deepfake ສະກັດສຽງຈາກວິດີໂອແລະປ່ຽນໃຫ້ເຂົາເຈົ້າເປັນສຽງຜູ້ໃຫຍ່. ຮູບພາບແລະວິດີໂອສາມາດຖືກປອມແປງຢ່າງສົມບູນ, ຂໍ້ມູນປະຈໍາຕົວສ່ວນບຸກຄົນກາຍເປັນຂໍ້ມູນທີ່ມີຄຸນຄ່າຖືກລັກເພື່ອຈຸດປະສົງທີ່ຜິດກົດຫມາຍ. ບໍ່ຢຸດຢູ່ບ່ອນນັ້ນ, ຄົນບໍ່ດີສາມາດໃຊ້ຮູບທີ່ເກັບກຳມາທາງອິນເຕີເນັດເພື່ອຕັດ ແລະ ວາງ, ໃຊ້ AI ເພື່ອສ້າງຮູບພາບລາມົກອານາຈານເດັກນ້ອຍ ຫຼື ຮູບທີ່ເຍາະເຍີ້ຍ, ໝິ່ນປະໝາດ, ແລະບິດເບືອນຄວາມຈິງ...

"ການສຶກສາທີ່ຜ່ານມາສະແດງໃຫ້ເຫັນວ່າເດັກນ້ອຍອາຍຸຫ້າປີໂດຍສະເລ່ຍມີປະມານ 1,500 ຮູບທີ່ຖືກຈັດພີມມາຢູ່ໃນອອນໄລນ໌ໂດຍບໍ່ມີການຍິນຍອມເຫັນດີຂອງເຂົາເຈົ້າ, ຈັດພີມມາໂດຍບໍ່ມີໃຜອື່ນນອກເຫນືອຈາກຜູ້ທີ່ເຂົາເຈົ້າໄວ້ວາງໃຈຫຼາຍທີ່ສຸດ: ແມ່ຫຼືພໍ່ຂອງເຂົາເຈົ້າ," Christian Loefert, ຫົວຫນ້າການສື່ສານແລະການຕະຫຼາດຂອງ Deutsche Telekom ກ່າວ.

ອີງຕາມ ການ New Yorker, ຜູ້ຊ່ຽວຊານຄາດຄະເນວ່າໃນປີ 2030, ສອງສ່ວນສາມຂອງການລັກເອກະລັກຈະເກີດມາຈາກການແບ່ງປັນຮູບພາບທີ່ບໍ່ມີການຄວບຄຸມໃນສື່ມວນຊົນສັງຄົມ. Deutsche Telekom ຍັງໄດ້ອ້າງເຖິງບົດລາຍງານວ່າຫຼາຍກວ່າ 75% ຂອງພໍ່ແມ່ໃນປັດຈຸບັນແບ່ງປັນຂໍ້ມູນກ່ຽວກັບລູກຂອງພວກເຂົາໃນສື່ສັງຄົມ. ໃນຂະນະດຽວກັນ, ພໍ່ແມ່ແປດຄົນໃນ 10 ຄົນມີສະມາຊິກສື່ມວນຊົນສັງຄົມຕິດຕາມບັນຊີຂອງເຂົາເຈົ້າໂດຍບໍ່ເຄີຍພົບພວກເຂົາໃນຊີວິດຈິງ.

ບໍ່ດົນມານີ້, ການພັດທະນາຂອງເຄື່ອງມື AI ໄດ້ກາຍເປັນ "ຄວາມນິຍົມ", ເຂົ້າເຖິງຜູ້ໃຊ້ທົ່ວໄປໂດຍຜ່ານຊຸດຂອງແອັບພລິເຄຊັນໃນອຸປະກອນມືຖື. ແທນທີ່ຈະລະມັດລະວັງກັບໂຄງການເຫຼົ່ານີ້, ປະຊາຊົນຈໍານວນຫຼາຍ carelessly ໃຫ້ຮູບພາບສ່ວນບຸກຄົນຫຼືຄອບຄົວທີ່ຈະໂພດໃນເຄືອຂ່າຍສັງຄົມ. ການປະຕິບັດນີ້ແມ່ນບໍ່ໄດ້ຕັ້ງໃຈໃຫ້ AI ມີຂໍ້ມູນຈໍານວນຫຼວງຫຼາຍໂດຍບໍ່ເສຍຄ່າເພື່ອຮຽນຮູ້ກ່ຽວກັບຄົນ, ຈາກໂຄງສ້າງຫນ້າໄປຫາສະພາບແວດລ້ອມອ້ອມຂ້າງ.

ຜູ້ຊ່ຽວຊານດ້ານຄວາມປອດໄພຫຼາຍຄົນເຕືອນວ່າໃນທຸກສະຖານະການ, ເຖິງແມ່ນວ່າມີແນວໂນ້ມໃຫມ່, ຜູ້ໃຊ້ຍັງຄວນລະມັດລະວັງແລະບໍ່ຊື້ຂາຍຂໍ້ມູນສ່ວນບຸກຄົນ, ໂດຍສະເພາະຂໍ້ມູນໃບຫນ້າຂອງຕົນເອງແລະຂອງຄົນທີ່ເຂົາເຈົ້າຮັກ, ສໍາລັບການມ່ວນຊື່ນສອງສາມນາທີໃນເຄືອຂ່າຍສັງຄົມ.

ແຫຼ່ງທີ່ມາ