Setiap kali saya menjelajahi internet saya melihat video-video lucu dan konyol yang dibuat oleh AI.

(Dan Tri) - Video dengan konten "menyimpang" yang dibuat oleh Veo 3 sering muncul di situs jejaring sosial.

Di mana pun saya berselancar, saya melihat humor yang tidak masuk akal dari Veo 3

Belakangan ini, pengguna media sosial, terutama TikTok, terus-menerus dibanjiri video "komedi" yang dibuat oleh platform Veo 3. Meskipun sebagian besar menghibur, banyak kontennya yang mulai menyimpang dari norma dan menimbulkan kontroversi.

“Setiap kali saya membuka TikTok, saya melihat video-video lucu dengan tema yang familiar, seperti seorang perempuan tua yang membawa babi untuk dijual karena ia makan terlalu banyak dan tidur terlalu banyak,” ungkap Huyen Mai (20 tahun).

Huyen Mai mengatakan TikTok miliknya dipenuhi dengan video "komedi" yang dibuat oleh Veo 3 (Foto: Tangkapan Layar).

Mai menceritakan, video-video sejenis makin sering muncul, membuatnya mulai merasa tak nyaman dan berpikir kalau video-video itu hanya untuk "mencari penonton" saja, tidak ada nilai tambah bagi penonton.

Mai mengatakan ia sering menemukan video negatif atau menyinggung di linimasanya: “Banyak kanal TikTok membuat video tentang situasi fiktif hingga kisah nyata yang mengandung unsur cabul, menyinggung, dan informasi palsu hanya untuk menarik perhatian.”

Serangkaian konten yang menyinggung dan mengejutkan dibuat dengan tujuan "menarik perhatian" (Foto: Tangkapan Layar).

Seperti kisah Huyen Mai, Hoang Anh (20 tahun) juga mengungkapkan rasa frustrasinya baru-baru ini. Ia mengatakan bahwa Veo 3 menghadirkan gambar dan konten yang sangat realistis, banyak video yang dibuat dengan konten yang menarik dan menghibur.

Namun setelah beberapa waktu, ia memperhatikan bahwa secara bertahap, video yang cenderung "negatif" dan "mengejutkan untuk menarik perhatian" semakin sering muncul, alih-alih berfokus pada nilai-nilai positif.

"Seorang siswa berdiri dan mengumpat, itu salah satu video yang dibuat oleh Veo 3 yang saya tonton baru-baru ini. Saya heran mengapa ada konten yang begitu menyinggung di media sosial, terutama selama masa ujian yang sangat penting," ungkap Hoang Anh.

Banyak video buatan AI dengan bahasa dan konten yang tidak pantas sering muncul di jejaring sosial (Foto: Tangkapan layar).

Yang lebih mengkhawatirkan, beberapa video menggunakan gambar karakter dan suara anak-anak untuk mengatakan kalimat yang sensitif dan tidak etis, tetapi masih menarik ribuan interaksi dari komunitas daring.

Selain itu, banyak pengguna Veo 3 juga menciptakan situasi untuk mempromosikan perilaku menyimpang dengan kedok konten yang murni menghibur.

Biasanya, beberapa aplikasi dan situs web seperti perjudian dan taruhan secara terang-terangan membuat video promosi kepada pemirsa, secara diam-diam menyebarkannya secara terbuka dengan kedok "video hiburan".

Pintu menuju banyak konsekuensi

Tidak dapat disangkal bahwa pengembangan alat AI penghasil video seperti Veo 3, selain membawa potensi besar bagi sektor produksi konten di banyak toko dan bisnis, juga membuka "pintu" yang mengarah pada konsekuensi virtual dalam kehidupan nyata.

Hal ini menimbulkan pertanyaan seperti, "Bisakah orang dewasa atau anak-anak membedakan video yang dihasilkan AI?" dan "Bagaimana video-video yang menyinggung ini akan memengaruhi persepsi anak-anak?"

Logo Vietnam Television dimasukkan ke dalam konten yang dihasilkan AI (Foto: Tangkapan layar).

Tak hanya untuk hiburan, banyak pakar telah memperingatkan potensi risiko konten "menyimpang" yang diciptakan oleh AI. Produk-produk ini, ketika menyebar dengan kecepatan luar biasa di media sosial, dapat membuat lansia atau anak-anak pasif dan mudah terpengaruh ke arah negatif.

Platform media sosial saat ini menghadapi tantangan besar dalam penyensoran konten, karena hanya dengan beberapa langkah sederhana, siapa pun dapat membuat serangkaian video dengan konten menyimpang, bahkan mempromosikan perilaku yang menyinggung, bejat, atau ilegal.

Tidak hanya menimbulkan risiko terkait konten, mengakses dan menggunakan Veo 3 di Vietnam juga menimbulkan banyak konsekuensi. Karena Google belum secara resmi mendukung alat ini di pasar domestik, ditambah dengan biaya yang tinggi ($20/bulan untuk akun Pro, $250/bulan untuk akun Ultra), banyak penggemar teknologi telah menemukan cara untuk "mengatasi hambatan" dengan menggunakan VPN, membeli akun mengambang, atau melaporkan informasi palsu.

Banyak di antara mereka yang menjadi korban tipu daya "chicken herding" seperti mengiklankan akun Veo 3 murah yang bisa dipakai bebas, dengan fitur tak terbatas.

Unggahan yang mengajak untuk membeli akun Veo 3 murah membanjiri jejaring sosial Vietnam (Tangkapan layar).

Banyak orang jahat yang memanfaatkan kebutuhan untuk mengakses Veo 3 untuk melakukan penipuan, meminta pembeli untuk mentransfer uang terlebih dahulu dan kemudian dengan cepat "menghilang" tanpa jejak.

Patut dicatat, beberapa orang bahkan bersedia mendaftarkan akun Veo 3 menggunakan alamat Gmail pelanggan dengan harga "sangat istimewa". Namun, ini sebenarnya merupakan tindakan memanfaatkan celah dalam kebijakan Google, yang berpotensi menyebabkan akun terkunci secara permanen, yang berarti kehilangan akses ke email, dokumen, dan semua data pribadi terkait.

Teknologi tidak memiliki kekurangan

Faktanya, tidak ada platform AI yang dirancang untuk menciptakan konten negatif atau melayani perilaku kasar. Semua konsekuensi bergantung pada bagaimana orang menggunakan alat tersebut, yang berarti kesadaran dan tanggung jawab penggunalah yang menjadi faktor penentu.

Dr. Nguyen Van Son, dosen Fakultas Teknologi Informasi, Universitas Teknologi (Universitas Nasional Vietnam, Hanoi ), berkomentar: "Saya sangat mengapresiasi nilai-nilai positif yang dibawa oleh kecerdasan buatan. Jika digunakan dengan tepat, AI dapat memberikan banyak kontribusi praktis bagi masyarakat dan komunitas."

Namun, menurutnya, masalah muncul ketika teknologi jatuh ke tangan orang-orang dengan motif yang tidak sehat. "Pada saat itu, AI menjadi alat yang efektif untuk mendukung perilaku negatif, bahkan memperparah dampak buruk pada masyarakat," Dr. Son memperingatkan.

Dari sana, ia mengajak para pengguna, terutama kaum muda, untuk secara proaktif meningkatkan kewaspadaan dan tanggung jawab mereka saat mendekati dan menerapkan AI, dengan tujuan menciptakan konten yang bermutu dan beradab, bukannya menyebarkan produk yang murahan dan menyinggung.

Dr. Nguyen Van Son percaya bahwa pendidikan adalah kunci untuk membatasi pelanggaran etika saat menggunakan AI (Foto: Karakter disediakan).

Selain itu, Dr. Nguyen Van Son juga meyakini bahwa salah satu strategi jangka panjang untuk membatasi pelanggaran etika dalam penggunaan AI adalah dengan pendekatan dari perspektif edukatif. Menurutnya, meningkatkan kesadaran, membantu pengguna memahami tanggung jawab pribadi, dan membangun landasan etika dalam penggunaan teknologi merupakan faktor kunci yang berkontribusi pada pembentukan komunitas digital yang beradab.

Tidak hanya berhenti pada peringatan tentang konten "spam", banyak pakar telah berulang kali mengangkat isu potensi bahaya dari alat-alat yang dihasilkan AI, terutama kemampuan untuk membuat video, yang dapat menjadi sumber penyebaran disinformasi berskala besar.

"Industri teknologi telah menghabiskan waktu bertahun-tahun menangani bahaya deepfake. Namun, kemunculan perangkat video AI yang semakin canggih merupakan peringatan yang jelas bahwa regulasi konten yang dihasilkan oleh AI, dan selanjutnya AGI, akan semakin sulit," ujar Connor Leahy, CEO Conjecture.

Berbagi pandangan yang sama, Ibu Nguyen Thi Trang - CEO Pisa Solutions LLC - menekankan pentingnya berpikir kritis dalam konteks AI yang semakin unggul.

"Kita bukan hanya pengguna AI, tetapi juga penerima beragam konten yang dihasilkan AI. Selain menggunakan perangkat secara etis, setiap orang perlu melatih kemampuan untuk memahami informasi dari berbagai perspektif, karena saat ini banyak video yang dibuat oleh AI yang tampak asli tetapi diam-diam mempromosikan konten palsu," ujar Ibu Trang.

Sumber: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm