Foto dan video AI membanjiri Facebook: Tampaknya tidak berbahaya tetapi sangat berbahaya

Saat melihat-lihat foto pasangan tentara yang menggendong bayi kembar empat di Facebook, Ibu Linh, 42 tahun, berkomentar, "Selamat untuk kalian berdua," karena kebiasaan. Namun, ia segera menariknya kembali karena merasa "ada yang tidak beres".

Setelah melihat lagi, ia menyadari bahwa ini hanyalah foto AI yang digunakan oleh halaman Facebook untuk mengilustrasikan unggahan sentimental. Perlu disebutkan bahwa ini adalah kedua kalinya ia "hampir" tertipu oleh AI. Sebelumnya, ia juga salah mengira video "'para pensiunan' bertemu 'para wisatawan musim panas'" sebagai orang dan peristiwa nyata.

Bekerja di bidang media, secara teratur terpapar konten AI, Ibu Linh harus mengakui bahwa teknologi ini telah berkembang begitu cepat dan canggih sehingga sulit membedakan mana yang asli dan yang palsu.

Foto viral di Facebook dibuat oleh AI. Tangkapan layar.

Para ahli juga sependapat dengan pandangan ini. Alat-alat seperti Google Veo 3, Kling AI, DALL·E 3, Midjourney... telah mencapai kemampuan untuk menciptakan gambar dan video yang sangat realistis.

Bapak Do Nhu Lam, Direktur Pelatihan, Institut Teknologi Blockchain dan Kecerdasan Buatan ABAII, mengemukakan bahwa berkat teknologi multimoda dan model bahasa canggih, alat-alat ini dapat menyinkronkan gambar, suara, ekspresi wajah, dan gerakan alami, sehingga menciptakan produk yang sangat meyakinkan.

Bapak Do Nhu Lam, Direktur Pelatihan, Institut Teknologi Blockchain dan Kecerdasan Buatan ABAII, mengatakan bahwa teknologi AI yang canggih menghasilkan produk yang sangat meyakinkan. Foto: NVCC

Bapak Lam berkomentar bahwa kemajuan AI membuka potensi besar di berbagai bidang seperti pembuatan konten, periklanan, hiburan, dan pendidikan . Namun, kemampuan "nyata" untuk menciptakan kembali ini juga menimbulkan banyak tantangan dalam etika, kontrol, dan keamanan informasi, karena batas antara realitas dan virtualitas semakin kabur.

Unggahan Facebook yang dilihat oleh Ibu Linh menarik hampir 300.000 interaksi dan lebih dari 16.000 komentar. Banyak pengguna yang terburu-buru memberi selamat atau mengungkapkan perasaan mereka tanpa menyadari bahwa ini hanyalah ilustrasi AI. Beberapa orang yang lebih "sadar" mengkritik "warganet karena terlalu naif" untuk membiarkan AI membodohi mereka.

Di grup dan forum Facebook, mudah untuk melihat video AI yang dibuat dan dibagikan oleh pengguna. Khususnya, kemunculan Google Veo 3 telah meningkatkan kualitas video secara signifikan, terutama suara yang sesuai dengan bentuk mulut karakter. Jika tidak diperhatikan dan diamati dengan saksama, penonton dapat dengan mudah bingung.

Tetap waras di era AI

Foto dan video yang dihasilkan AI sulit dibedakan, sehingga menimbulkan risiko besar bagi pengguna, terutama kelompok rentan yang kurang menguasai teknologi. Menurut Bapak Vu Thanh Thang, Direktur Kecerdasan Buatan (CAIO) Perusahaan Saham Gabungan Keamanan Siber SCS, AI digunakan oleh penjahat siber untuk penipuan (melewati sistem biometrik, eKYC, dan sebagainya), menyamar sebagai orang terkenal untuk menyebarkan informasi palsu, sehingga menimbulkan kebingungan publik. Banyak kasus penjahat berteknologi tinggi yang memanfaatkan AI untuk membuat foto deepfake, menyamar sebagai kerabat untuk melakukan panggilan video demi menipu uang.

Bapak Vu Thanh Thang, Direktur Kecerdasan Buatan (CAIO) Perusahaan Saham Gabungan Keamanan Siber SCS, mengatakan bahwa kita telah memasuki era di mana segala sesuatu dapat dipalsukan. Foto: NVCC

Menurut Bapak Thang, bisnis juga merupakan target potensial bagi penjahat AI. Mereka dapat menggunakan AI Deepfake untuk menyamar sebagai karyawan, menerobos sistem keamanan untuk membuka absensi, dan menyamar sebagai pemimpin bisnis untuk mencemarkan nama baik dan menghancurkan reputasi.

Senada dengan itu, Bapak Do Nhu Lam dari ABAII menunjukkan tiga konsekuensi bagi pengguna individu yang disebabkan oleh AI: penipuan keuangan, pencemaran nama baik, dan eksploitasi informasi pribadi. Bagi bisnis, perusahaan Arup kehilangan 25 juta dolar AS setelah karyawan cabangnya di Hong Kong ditipu untuk berpartisipasi dalam rapat video deepfake dan mentransfer uang sesuai permintaan.

Segala yang perlu Anda ketahui tentang Veo 3, alat AI pembuat video yang sedang viral saat ini Model AI pembuat video terbaru dari Google – Veo 3 – mengesankan dengan kemampuannya menciptakan suara yang tersinkronisasi secara realistis dengan gambar.

Risiko lain yang sama seriusnya adalah ketika orang tidak dapat membedakan mana yang asli dan mana yang palsu, kepercayaan publik terhadap media dan sumber berita resmi akan terkikis.

Tn. Lam mengutip laporan Reuters Institute 2024 yang menunjukkan bahwa persentase pengguna global yang memercayai berita di platform media telah turun ke level terendah dalam satu dekade, sebagian besar disebabkan oleh munculnya konten deepfake.

Menurut pakar Vu Thanh Thang, "kita berada di era di mana semua informasi dapat dipalsukan dan bukan lagi 'risiko'." Oleh karena itu, penting untuk meningkatkan kesadaran dan menerapkan langkah-langkah perlindungan pribadi, serta mempelajari AI agar hidup damai .

Kedua pakar tersebut menyarankan agar pengguna selalu memverifikasi dan mengautentikasi informasi sebelum mengambil keputusan; membekali diri dengan pengetahuan untuk mengidentifikasi konten palsu; membatasi penyebaran informasi pribadi secara daring; dan melaporkan tindakan penyebaran konten palsu. "Hanya dengan bersikap proaktif dan berpengetahuan, pengguna dapat benar-benar melindungi diri dan berkontribusi dalam membangun dunia maya yang lebih aman di era digital," ujar Bapak Lam.

Khawatir akan kepunahan manusia akibat AI, 'godfather' Yoshua Bengio baru saja melakukan sesuatu . 'Godfather' AI Yoshua Bengio baru saja mendirikan organisasi nirlaba dengan tujuan menciptakan sistem kecerdasan buatan yang aman, alih-alih menunjukkan kepribadian yang berbahaya kepada manusia.

Sumber: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html