 |
Akun menggunakan AI untuk menyamar sebagai penjual. Foto: TikTok . |
Dengan munculnya serangkaian alat AI canggih belakangan ini, membuat foto dan video menjadi jauh lebih mudah hanya dengan beberapa perintah. Namun, kemampuan pengguna internet untuk membedakan antara yang asli dan yang palsu belum mampu mengimbangi perkembangan tersebut, dan telah dieksploitasi oleh beberapa pihak untuk mendapatkan keuntungan.
Baru-baru ini, sebuah akun TikTok ramai diperbincangkan di media sosial, mengunggah serangkaian video tentang seorang perempuan yang kedua lengannya diamputasi dan terpaksa berjualan untuk menghidupi anak-anaknya yang masih kecil. Dalam video tersebut, perempuan ini mengenakan pakaian sederhana, berbicara dengan penuh simpati, dan memperkenalkan produk-produk seperti tisu dapur dan deterjen.
Menurut catatan, wanita tersebut menceritakan kisah suaminya yang meninggal dunia dini akibat kecelakaan, dan harus membesarkan anak kecil sendirian, tetapi ceritanya tidak konsisten di seluruh video. Akun tersebut menerima lebih dari jutaan tayangan dan interaksi, menambah 100.000 pengikut dalam 3 hari sejak kanal tersebut dibuat. Banyak orang yang menyampaikan simpati, meminta dukungan, dan bahkan memesan produk untuk membantu.
Pengguna terus menemukan akun-akun dengan konten serupa. Kesamaan dari kanal-kanal ini adalah bahwa mereka merupakan halaman pribadi yang baru dibuat, tidak memiliki riwayat interaksi yang nyata, dan seringkali membagikan konten yang terlalu emosional.
 |
Saluran ini sering kali baru dan tidak memiliki profil yang jelas. |
Namun, setelah beberapa saat, netizen menyadari ada yang tidak biasa dan tidak koheren di setiap video. Misalnya, lengan perempuan yang diamputasi tampak sangat mulus, cat dinding rumahnya berbeda, atau bayinya terbaring tak bergerak. Alasannya adalah karena semua klip tersebut dibuat oleh AI untuk mengelabui orang lain.
Perlu dicatat bahwa komentar peringatan atau pengungkapan tersebut disembunyikan atau dihapus oleh pemilik akun. Banyak orang merasa tersinggung karena ditipu, sekaligus geram dengan perilaku yang memanfaatkan simpati masyarakat.
Selain itu, video-video palsu ini juga memengaruhi pemiliknya dan penyandang disabilitas lain yang mencari nafkah di platform yang sama. Tran Thi Nga (36 tahun) di Phu Tho , pemilik kanal Nga Tich Cuc, harus terus-menerus bersuara bahwa lengannya benar-benar diamputasi.
Di penghujung tahun 2024, wanita ini terjangkit miokarditis virus akut dan terpaksa mengamputasi seluruh anggota tubuhnya, memulai hidup baru dengan cinta dari keluarganya. Dalam siaran langsung baru-baru ini, ia mengungkapkan kesedihannya karena diragukan dan menerima kata-kata kasar.
Kanal-kanal baru ini juga dengan cepat mendapatkan banyak pengikut, sehingga sulit dibedakan. Akun lain dengan konten serupa, NLS, mendapatkan hampir 50.000 pengikut hanya setelah satu video.
 |
Pengguna menyatakan kemarahan dan kehilangan kepercayaan ketika ditipu. |
Oleh karena itu, kita tidak bisa menyalahkan komunitas daring yang perlahan-lahan kehilangan kepercayaan terhadap apa yang mereka lihat, sehingga tidak lagi peduli terhadap mereka yang benar-benar membutuhkan bantuan. Salah satu komentar mengatakan bahwa mereka yang menggunakan teknologi AI untuk mengeksploitasi emosi komunitas harus dikutuk.
Skema penipuan siber semakin canggih, menyasar orang-orang yang jarang berinteraksi atau lansia. Sebagian besar pemegang akun menggunakan gambar orang-orang yang mengalami trauma, seperti rawat inap atau disabilitas, lalu melampirkan keranjang belanja atau meninggalkan nomor rekening untuk meminta bantuan.
Sebelumnya, CNBC menemukan lebih dari 30 akun Instagram, YouTube, dan TikTok yang menggunakan AI untuk meniru penyandang sindrom Down. Mereka menggunakan kisah-kisah memilukan untuk menarik pengikut dan menggalang dana komunitas, tetapi kenyataannya, mereka justru memanfaatkan akun-akun tersebut untuk kepentingan diri mereka sendiri.
Insiden ini memperingatkan kemungkinan kemampuan AI untuk mereproduksi konten realistis dieksploitasi oleh pelaku kejahatan. Seiring perkembangan teknologi yang pesat, pengguna perlu mempopulerkannya, sekaligus membantu orang-orang yang mereka cintai agar terhindar dari penipuan online.
Sumber: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html
Komentar (0)