 |
Akaun menggunakan AI untuk menyamar sebagai penjual. Foto: TikTok . |
Dengan kemunculan satu siri alat AI termaju sejak kebelakangan ini, mencipta foto dan video menjadi lebih mudah dengan hanya beberapa arahan. Walau bagaimanapun, keupayaan pengguna internet untuk membezakan antara sebenar dan palsu tidak mengikuti perkembangan itu, dan telah dieksploitasi oleh beberapa subjek untuk keuntungan.
Baru-baru ini, sebuah akaun TikTok telah tular di media sosial, menyiarkan beberapa siri video mengenai seorang wanita dengan kedua-dua belah tangan dipotong dan terpaksa menjual barangan untuk menyara anak-anaknya yang masih kecil. Dalam klip, orang ini memakai pakaian ringkas, bercakap dengan simpati untuk memperkenalkan produk seperti tuala kertas dan detergen.
Menurut rekod, wanita itu berkongsi situasi kematian awal suaminya akibat kemalangan, terpaksa membesarkan anak kecil seorang diri, namun ceritanya tidak konsisten menerusi video berkenaan. Akaun tersebut menerima lebih daripada berjuta-juta tontonan dan interaksi, meningkatkan 100,000 pengikut dalam masa 3 hari selepas membuat saluran. Ramai orang menyatakan simpati, meminta sokongan dan juga memesan produk untuk membantu.
Pengguna terus menemui akaun dengan kandungan yang serupa. Persamaan saluran ini ialah ia adalah halaman peribadi yang baru dibuat, tidak mempunyai sejarah interaksi sebenar dan sering berkongsi kandungan yang terlalu emosional.
 |
Saluran ini selalunya baharu dan tidak mempunyai profil yang jelas. |
Bagaimanapun, selepas beberapa ketika, netizen menyedari sesuatu yang luar biasa dan tidak koheren dalam setiap video. Sebagai contoh, lengan wanita yang dipotong kelihatan sangat licin, cat dinding rumah berbeza, atau bayi itu terbaring dalam keadaan tidak bergerak. Alasannya adalah kerana semua klip dicipta oleh AI untuk menipu orang lain.
Perlu diingat bahawa amaran atau pendedahan ulasan telah disembunyikan atau dipadamkan oleh pemilik akaun. Ramai orang berasa tersinggung kerana ditipu, serta geram dengan perlakuan mengaut keuntungan daripada simpati rakyat.
Selain itu, video palsu ini juga memberi kesan kepada pemilik dan orang kurang upaya lain yang mencari rezeki di platform yang sama. Cik Tran Thi Nga (36 tahun) di Phu Tho , pemilik saluran Nga Tich Cuc, terpaksa terus bersuara bahawa dia benar-benar telah dipotong lengan.
Pada penghujung tahun 2024, orang ini dijangkiti miokarditis virus akut dan terpaksa dipotong semua anggota badannya, memulakan kehidupan dengan kasih sayang keluarganya. Dalam strim langsung baru-baru ini, dia meluahkan rasa sedihnya kerana diragui dan menerima kata-kata kasar.
Saluran yang baru dibuat ini juga cepat memperoleh bilangan pengikut yang tinggi, menjadikannya lebih sukar untuk dibezakan. Akaun lain dengan kandungan serupa bernama NLS meningkat hampir 50,000 pengikut selepas hanya satu video.
 |
Pengguna meluahkan rasa marah dan hilang kepercayaan apabila ditipu. |
Oleh itu, adalah tidak mungkin untuk menyalahkan komuniti dalam talian kerana secara beransur-ansur hilang kepercayaan terhadap apa yang mereka lihat, dan dengan itu tidak lagi mengambil berat terhadap mereka yang benar-benar memerlukan bantuan. Satu komen mengatakan bahawa mereka yang menggunakan teknologi AI untuk mengeksploitasi emosi masyarakat harus dikutuk.
Skim penipuan siber menjadi semakin canggih, menyasarkan orang yang kurang kenalan atau orang tua. Kebanyakan pemegang akaun menggunakan imej orang yang mengalami trauma, seperti dimasukkan ke hospital atau hilang upaya, kemudian lampirkan troli beli-belah atau tinggalkan nombor akaun untuk menghubungi sokongan.
Sebelum ini, CNBC menemui lebih daripada 30 akaun Instagram, YouTube dan TikTok menggunakan AI untuk menyamar sebagai orang yang mengalami sindrom Down. Individu ini menggunakan cerita yang menyayat hati untuk menarik pengikut dan menyeru pengumpulan dana komuniti, tetapi sebenarnya, mereka memperuntukkan akaun itu untuk diri mereka sendiri.
Insiden itu memberi amaran tentang kemungkinan keupayaan AI untuk menghasilkan semula kandungan realistik dieksploitasi oleh pelakon jahat. Memandangkan teknologi berkembang pesat, pengguna perlu mempopularkannya, serta membantu orang tersayang mengelak daripada menjadi mangsa penipuan dalam talian.
Sumber: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html
Komen (0)