Kanak-kanak berisiko menjadi mangsa AI apabila ibu bapa menyiarkan foto dalam talian

Ledakan maklumat dan perhubungan di rangkaian sosial khususnya dan internet amnya menyebabkan ramai orang mempunyai tabiat untuk berkongsi segala emosi dan peristiwa dalam kehidupan peribadi mereka di internet tanpa menjangkakan bahaya berbuat demikian. Bukan sahaja menyiarkan gambar dan video mereka dalam talian, ramai orang dewasa juga memberi hak mereka untuk menyiarkan kandungan yang mengandungi wajah atau suara kanak-kanak tanpa kebenaran. Setelah gambar dan video ini muncul dalam talian, sesiapa sahaja yang mempunyai akses boleh mengambilnya untuk digunakan tanpa sebarang sekatan.

Julai lalu, rangkaian Jerman Deutsche Telekom mengeluarkan iklan olok-olok yang menunjukkan bagaimana imej kanak-kanak kecil boleh disalahgunakan dalam talian, menggunakan AI (kecerdasan buatan) untuk pelbagai tujuan. Bertajuk A Message from Ella , klip itu menggunakan AI dan Deepfake untuk mencipta versi dewasa imej dan video Ella muda yang disiarkan dalam talian oleh ibu bapanya.

'Ella Dewasa' dicipta oleh AI daripada imej media sosial Ella yang berusia 9 tahun dalam video amaran Deutsche Telekom

"AI Ella" boleh bergerak dan bercakap seperti orang sebenar, mengejutkan ibu bapanya apabila mereka melihat anak perempuan mereka di skrin besar pawagam. Dia juga boleh menangis dan mengekspresikan dirinya seperti manusia.

"Saya tahu bahawa bagi anda, foto ini adalah kenangan. Tetapi bagi orang lain, ia adalah data. Dan bagi saya, ia boleh menjadi permulaan kepada masa depan yang mengerikan dan mengerikan di mana identiti saya boleh dicuri, saya boleh berakhir di penjara kerana perkara yang saya tidak lakukan... Apa yang anda kongsi dalam talian adalah peristiwa penting digital yang akan mengikuti saya sepanjang hayat saya," kongsi watak AI Ella.

Dengan hanya satu foto yang dikongsi, AI boleh mencipta versi dewasa gadis berusia 9 tahun. Deepfake mengeluarkan suara daripada video dan mengubahnya menjadi suara dewasa. Imej dan video boleh dipalsukan sepenuhnya, data pengenalan peribadi menjadi maklumat berharga yang dicuri untuk tujuan yang menyalahi undang-undang. Tidak berhenti di situ, orang jahat boleh menggunakan imej yang dikumpul dalam talian untuk memotong dan menampal, menggunakan AI untuk mencipta pornografi kanak-kanak atau beberapa siri foto yang mengejek, memfitnah dan memutarbelitkan kebenaran...

"Kajian terbaru menunjukkan bahawa purata kanak-kanak berusia lima tahun mempunyai kira-kira 1,500 gambar yang disiarkan dalam talian tanpa persetujuan mereka, yang disiarkan oleh orang yang paling mereka percayai: ibu atau bapa mereka," kata Christian Loefert, Ketua Komunikasi dan Pemasaran di Deutsche Telekom.

Menurut The New Yorker, pakar menganggarkan bahawa menjelang 2030, dua pertiga daripada kecurian identiti akan disebabkan oleh perkongsian foto yang tidak terkawal di media sosial. Deutsche Telekom juga memetik laporan bahawa lebih daripada 75% ibu bapa kini berkongsi data tentang anak-anak mereka di media sosial. Sementara itu, lapan daripada 10 ibu bapa mempunyai ahli media sosial mengikuti akaun mereka tanpa pernah bertemu mereka dalam kehidupan sebenar.

Baru-baru ini, pembangunan alat AI telah menjadi semakin "popular", menjangkau pengguna biasa melalui satu siri aplikasi pada peranti mudah alih. Daripada berhati-hati dengan program ini, ramai orang secara cuai menyediakan foto peribadi atau keluarga untuk disiarkan di rangkaian sosial. Tindakan ini secara tidak sengaja menyediakan AI dengan sejumlah besar data percuma untuk belajar tentang orang, daripada struktur muka kepada persekitaran sekeliling.

Ramai pakar keselamatan memberi amaran bahawa dalam semua situasi, walaupun dengan aliran baharu, pengguna harus tetap berhati-hati dan tidak memperdagangkan data peribadi, terutamanya data muka mereka sendiri dan orang tersayang, untuk beberapa minit keseronokan di rangkaian sosial.

Pautan sumber: https://thanhnien.vn/rui-ro-tre-em-thanh-nan-nhan-cua-ai-khi-cha-me-dang-hinh-len-mang-185230911090311966.htm