Foto dan video AI membanjiri Facebook: Nampak tidak berbahaya tetapi amat berbahaya

Sambil menatal gambar pasangan askar yang memegang kembar empat di Facebook, Cik Linh, 42 tahun, mengulas 'Tahniah kepada kamu berdua' kerana kebiasaannya. Bagaimanapun, dia segera menarik baliknya kerana merasakan 'sesuatu yang tidak kena'.

Melihat sekali lagi, dia menyedari bahawa ini hanyalah foto AI yang digunakan oleh halaman Facebook untuk menggambarkan siaran sentimental. Perlu dinyatakan bahawa ini adalah kali kedua dia "hampir" ditipu oleh AI. Sebelum itu, dia juga tersilap video "'orang bersara' bertemu dengan 'pelancong musim panas'" sebagai orang sebenar dan acara sebenar.

Bekerja dalam bidang media, sentiasa terdedah kepada kandungan AI, Cik Linh terpaksa mengakui bahawa teknologi ini telah berkembang dengan pantas dan canggih sehingga sukar untuk membezakan antara yang sebenar dan yang palsu.

Foto viral di Facebook itu dicipta oleh AI. Tangkapan skrin.

Pakar juga bersetuju dengan pandangan ini. Alat seperti Google Veo 3, Kling AI, DALL·E 3, Midjourney... telah mencapai keupayaan untuk mencipta imej dan video yang sangat realistik.

Encik Do Nhu Lam, Pengarah Latihan, Teknologi Blockchain dan Institut Kecerdasan Buatan ABAII, menegaskan bahawa terima kasih kepada teknologi multimodal dan model bahasa lanjutan, alatan ini boleh menyegerakkan imej, bunyi, ekspresi muka dan pergerakan semula jadi, menghasilkan produk yang sangat meyakinkan.

Encik Do Nhu Lam, Pengarah Latihan, Teknologi Blockchain dan Institut Kecerdasan Buatan ABAII, berkata bahawa teknologi AI canggih membawa produk yang sangat meyakinkan. Foto: NVCC

Encik Lam mengulas bahawa kemajuan AI membuka potensi besar dalam bidang seperti penciptaan kandungan, pengiklanan, hiburan dan pendidikan . Walau bagaimanapun, keupayaan "seperti hidup" untuk mencipta semula ini juga menimbulkan banyak cabaran dalam etika, kawalan dan keselamatan maklumat, kerana sempadan antara realiti dan maya semakin kabur.

Catatan Facebook yang Cik Linh lihat menarik hampir 300,000 interaksi dan lebih daripada 16,000 komen. Ramai pengguna bergegas untuk mengucapkan tahniah atau meluahkan perasaan mereka tanpa mengetahui bahawa ini hanyalah ilustrasi AI. Beberapa lagi orang yang "sedar" mengkritik "netizen kerana terlalu naif" untuk membiarkan AI menipu mereka.

Pada kumpulan dan forum Facebook, tidak sukar untuk melihat video AI yang dibuat dan dikongsi oleh pengguna. Khususnya, penampilan Google Veo 3 telah meningkatkan kualiti video dengan ketara, terutamanya suara yang sepadan dengan bentuk mulut watak. Jika anda tidak memberi perhatian dan menonton dengan teliti, penonton mudah keliru.

Kekal waras di zaman AI

Foto dan video yang dibuat oleh AI sukar untuk dibezakan, menimbulkan risiko besar kepada pengguna, terutamanya kumpulan terdedah yang tidak mahir dalam teknologi. Menurut Encik Vu Thanh Thang - Pengarah Kecerdasan Buatan (CAIO) Syarikat Saham Bersama Keselamatan Siber SCS, AI sedang digunakan oleh penjenayah siber dalam penipuan (memintas sistem biometrik, eKYC...), menyamar sebagai orang terkenal untuk menyebarkan maklumat palsu, menyebabkan kekeliruan orang ramai. Terdapat banyak kes penjenayah berteknologi tinggi mengambil kesempatan daripada AI untuk mencipta foto palsu, menyamar sebagai saudara untuk membuat panggilan video untuk menipu wang.

Encik Vu Thanh Thang - Pengarah Kepintaran Buatan (CAIO) Syarikat Saham Bersama Keselamatan Siber SCS - berkata bahawa kita telah memasuki era di mana segala-galanya boleh dipalsukan. Foto: NVCC

Menurut Encik Thang, perniagaan juga merupakan sasaran yang berpotensi untuk penjenayah AI. Mereka boleh menggunakan AI Deepfake untuk menyamar sebagai pekerja, memintas sistem keselamatan untuk membuka kunci kehadiran, dan menyamar sebagai pemimpin perniagaan untuk memfitnah dan memusnahkan reputasi.

Berkongsi pendapat yang sama, Encik Do Nhu Lam dari ABAII menyatakan tiga akibat bagi pengguna individu yang disebabkan oleh AI: penipuan kewangan, fitnah reputasi dan eksploitasi maklumat peribadi. Untuk perniagaan, syarikat Arup kerugian 25 juta USD selepas pekerja cawangan Hong Kongnya ditipu untuk mengambil bahagian dalam mesyuarat video palsu dan memindahkan wang seperti yang diminta.

Segala-galanya yang anda perlu tahu tentang Veo 3, alat AI penjanaan video viral semasa Model AI penjanaan video terkini Google – Veo 3 – mengagumkan dengan keupayaannya untuk mencipta bunyi yang disegerakkan secara realistik dengan imej.

Satu lagi risiko yang sama serius ialah apabila orang tidak dapat membezakan antara sebenar dan palsu, kepercayaan orang ramai terhadap media dan sumber berita rasmi akan terhakis.

En. Lam memetik laporan Reuters Institute 2024 yang menunjukkan bahawa peratusan pengguna global yang mempercayai berita di platform media telah jatuh ke tahap paling rendah dalam satu dekad, sebahagian besarnya disebabkan oleh kemunculan kandungan deepfake.

Menurut pakar Vu Thanh Thang, "kita berada dalam era di mana semua maklumat boleh dipalsukan dan bukan lagi 'risiko'." Oleh itu, adalah perlu untuk meningkatkan kesedaran dan menggunakan langkah perlindungan peribadi, dan belajar tentang AI untuk hidup dengan aman .

Kedua-dua pakar mengesyorkan agar pengguna sentiasa mengesahkan dan mengesahkan maklumat sebelum membuat keputusan; melengkapkan diri mereka dengan pengetahuan untuk mengenal pasti kandungan palsu; hadkan perkongsian maklumat peribadi dalam talian; dan melaporkan perbuatan menyebarkan kandungan palsu. "Hanya dengan menjadi proaktif dan berpengetahuan boleh pengguna benar-benar melindungi diri mereka dan menyumbang kepada membina ruang siber yang lebih selamat dalam era digital," kata Encik Lam.

Bimbang tentang kepupusan manusia akibat AI, 'godfather' Yoshua Bengio hanya melakukan sesuatu . 'Godfather' AI Yoshua Bengio baru sahaja mengasaskan organisasi bukan untung dengan matlamat untuk mencipta sistem kecerdasan buatan yang selamat, dan bukannya menunjukkan personaliti berbahaya kepada manusia.

Sumber: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html