Dari gambar, video hingga lagu AI: Waspadai 'tornado' konten AI di media sosial

trí tuệ nhân tạo - Ảnh 1. — Semakin banyak gambar dan video yang diedit dan ditambahkan oleh AI diposting di jejaring sosial untuk menarik perhatian - Foto: DUC THIEN

Jika dulu untuk membuat foto palsu, pengguna biasa harus menyewa ahli Photoshop, kini dengan AI, dalam waktu kurang dari 5 menit dan dengan beberapa keterampilan dasar, sekumpulan foto palsu dapat muncul di mana-mana.

Ketika AI menciptakan gambar, video, lagu... begitu nyata hingga sulit dipercaya

Berselancar di Facebook secara rutin setiap hari, Ibu Hoan My (HCMC) - seorang staf komunikasi - mengatakan bahwa semakin banyak konten dengan intervensi alat AI yang diposting oleh pengguna.

"Banyak foto yang diunggah teman atau anggota grup begitu nyata sehingga saya tidak akan tahu apakah AI digunakan jika mereka tidak mengatakannya. Bahkan semakin banyak video, mulai dari animasi, imajinasi, hingga film pendek, atau video yang berkaitan dengan peristiwa yang terjadi di dunia nyata, dibuat oleh perangkat AI, tetapi saya tidak akan tahu," ujar Ibu My.

Tak hanya gambar dan video, bahkan di jejaring sosial YouTube, banyak lagu yang dibawakan atau diciptakan oleh "penyanyi AI" pun bermunculan. Banyak pengguna yang antusias dengan pengalaman baru ini dan berlomba-lomba membagikannya di jejaring sosial bersama teman-teman mereka.

"Saya tidak tahu apakah itu penyanyi AI jika tidak diumumkan. Konten AI semakin tersebar luas di dunia maya Vietnam. Pengguna biasa seperti saya mungkin akan segera tidak tahu lagi konten mana yang berasal dari orang sungguhan, konten mana yang berasal dari AI, atau yang diintervensi AI," kata Khanh Ha (HCMC).

Baru-baru ini, banyak platform jejaring sosial di Vietnam yang menampilkan video dan siaran langsung yang menjual produk dari para penyandang disabilitas, membuat komunitas daring lebih simpatik dan berbagi.

Namun, banyak kasus yang kemudian terungkap oleh komunitas daring tentang penggunaan AI untuk mengubah orang normal menjadi penyandang disabilitas. Tujuan trik ini adalah memanfaatkan belas kasihan penonton untuk menjual barang atau melakukan tindakan penipuan.

Banyak pakar teknologi mengatakan bahwa akhir-akhir ini, media sosial semakin sering menampilkan akun yang mengunggah video penjualan dengan gambar penyandang disabilitas, sakit, atau kurang mampu untuk menarik simpati. Namun, kenyataannya menunjukkan bahwa sebagian besar konten ini dibuat atau diedit dengan perangkat AI, yang mengubah orang normal menjadi penyandang disabilitas untuk tujuan keuntungan atau penipuan.

Senada dengan Tuoi Tre, Bapak Milko Radotic, Wakil Presiden iProov untuk wilayah Asia- Pasifik , penyedia teknologi autentikasi biometrik terkemuka di dunia, memperingatkan: "Penelitian kami menunjukkan bahwa 99,9% partisipan tidak dapat mengenali deepfake. Bahkan alat deteksi canggih saat ini pun menghadapi banyak kesulitan."

Meningkatkan resistensi bagi pengguna digital

Bapak Dang Huu Son - Wakil Direktur Institut Penelitian Terapan dan Pengembangan Sumber Daya Manusia AIOV, Pendiri dan CEO Perusahaan LovinBot AI - mengatakan bahwa sejak Google meluncurkan teknologi AI Nano Banana, Veo 3; ByteDance meluncurkan Seedream 4, dan sebelum itu OpenAI meluncurkan GPT Image, pasar AI menjadi sangat ramai dan juga membawa banyak konsekuensi.

"Teknologi belum pernah semudah ini. Semua ini adalah model AI yang sangat canggih yang dapat "menyalin wajah" hampir 90%, bahkan 99% dibandingkan dengan foto aslinya," komentar Bapak Son.

Jika dulu untuk membuat foto palsu, pengguna biasa harus menyewa ahli Photoshop, maka dengan AI saat ini, dalam waktu kurang dari 5 menit dengan beberapa keterampilan dasar, sekumpulan foto palsu, video palsu yang dipotong dan ditempel, dan ditambahkan efek seperti berita dapat menyebar dengan kecepatan yang sangat tinggi.

"Berita palsu beredar berkali-kali, dengan kepadatan tinggi dan akses yang mudah, sehingga banyak orang yang terpapar setiap hari akan mempercayainya sebagai kebenaran. Oleh karena itu, diperlukan solusi untuk mengatasi masalah-masalah di atas," ujar Bapak Son.

Menurut Bapak Trinh Nguyen Thien Phuoc - Direktur Teknologi Gianty Vietnam Company, untuk dapat membedakan konten yang dihasilkan AI, diperlukan tiga lapisan: (1) keterampilan verifikasi pengguna (bersama dengan aturan emas); (2) alat teknis seperti Content Credentials (C2PA), tanda identifikasi watermarking (SynthID, AudioSeal) dan detektor deepfake; (3) proses koordinasi antara pihak terkait seperti: platform, operator jaringan, bank...

Secara khusus, aturan emas harus dilakukan dengan sangat cepat dalam waktu 30 - 60 detik, termasuk: jangan mengklik tautan aneh, dan buka aplikasi/situs web resmi untuk memverifikasi; segera berhenti ketika menemukan kata kunci yang memaksa tindakan (OTP/transfer uang/mendesak).

Pada saat yang sama, pengguna harus memverifikasi dengan dua sumber independen sebelum mempercayainya; periksa tanggal, waktu dan konteks (berita lama disamarkan sebagai baru); hubungi kembali nomor resmi yang Anda temukan sendiri, jangan gunakan nomor yang diberikan oleh orang lain; dengan gambar dan video, pengguna dapat mencari kembali hasil terkait...

Banyak pakar meyakini bahwa solusi paling mendasar untuk mengatasi gelombang konten palsu yang diciptakan oleh AI adalah meningkatkan kesadaran publik. Alih-alih hanya berfokus pada langkah-langkah teknis, penting untuk membangun program pelatihan, kompetisi, atau simulasi situasi kehidupan nyata guna membantu masyarakat mengubah kebiasaan mengonsumsi informasi.

Bagi kaum muda, terutama pelajar, menggabungkan kontes daring, kampanye media dengan selebritas atau KOL dapat menciptakan daya tarik alami, membantu mereka belajar dan merasakan sekaligus menguasai keterampilan mengidentifikasi berita dan video palsu. Sementara itu, lansia, terutama di daerah pedesaan, membutuhkan bentuk yang lebih familiar dan intuitif seperti selebaran bergambar, video instruksional, atau pemutaran film di balai budaya dan kegiatan komunitas.

"Pendekatan yang tepat untuk setiap kelompok masyarakat akan membantu menciptakan fondasi kesadaran yang kokoh dan berjangka panjang, alih-alih hanya berhenti pada aktivitas jangka pendek. Misalnya, beberapa unit telah mengembangkan ekstensi yang dapat dipasang di peramban Chrome untuk membantu pengguna memverifikasi berita saat menjelajahi web atau jejaring sosial...", ungkap Bapak Dang Huu Son.

Menggunakan AI untuk mendeteksi AI palsu

Baru-baru ini, perusahaan ponsel Honor telah mengintegrasikan fitur AI Deepfake Detection ke dalam lini ponselnya yang baru diluncurkan. Fitur ini dapat menganalisis gambar dan suara dalam 3 detik untuk memperingatkan pesan palsu langsung di aplikasi seperti Messenger, Zalo, Viber, atau Google Meet, menjadikannya "perisai digital" untuk melindungi pengguna dari penipuan berteknologi tinggi.

Sebelumnya, pada September 2025, MoMo mengumumkan kerja samanya dengan iProov untuk menerapkan teknologi Dynamic Liveness guna membantu memverifikasi bahwa pengguna asli, memiliki identitas yang benar, dan hadir pada saat transaksi, sehingga mencegah penipuan menggunakan deepfake, video atau gambar palsu.

Di sektor berisiko tinggi seperti keuangan, tingkat keamanan ini penting untuk mencegah penipuan, mencegah akses tidak sah, dan menjaga kepercayaan pengguna terhadap platform.

Kembali ke topik

KEBAJIKAN

Source: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm