Para ahli merekomendasikan persiapan skenario manajemen krisis khusus untuk deepfake

Apa kata para ahli tentang istilah deepfake dan masalah terkini penyebaran foto telanjang palsu para selebriti, seperti penyanyi Taylor Swift di X...

Berikut adalah pendapat dua ahli dari Universitas RMIT tentang efek berbahaya deepfake dan solusi yang diusulkan untuk masalah ini:

Chuyên gia khuyến cáo cách chuẩn bị trước kịch bản xử lý khủng hoảng dành riêng cho deepfake

Dr. Jonathan Crellin (kiri) dan Dr. Nguyen Van Thang Long (kanan). (Sumber: Universitas RMIT)

Penjahat dunia maya mengeksploitasi teknologi baru dengan cara yang tidak terduga

Dr Jonathan Crellin, Kepala Keamanan Informasi, Fakultas Sains , Teknik dan Teknologi, Universitas RMIT :

Deepfake adalah gambar buatan mesin yang dapat menggabungkan gambar atau video dari berbagai sumber, sehingga menghasilkan gambar, video, atau bahkan audio yang sangat realistis.

Deepfake mengandalkan teknik dalam AI yang disebut pembelajaran mesin, yang dapat mengganti dan mengintegrasikan elemen seperti wajah seseorang ke dalam gambar atau video lain.

Salah satu contoh penggunaan deepfake adalah menggabungkan konten pornografi dengan foto Taylor Swift untuk membuat gambar palsu.

Untuk melakukan ini, sang dalang membutuhkan sejumlah gambar agar perangkat lunak dapat mempelajari ekspresi wajah sang penyanyi, lalu menggabungkannya dengan konten pornografi untuk menciptakan foto-foto cabul, yang menyebabkan citra sang penyanyi menjadi ternoda.

Faktanya, beredar rumor bahwa foto-foto ini dirilis oleh grup Telegram dan dibuat menggunakan alat Microsoft Designer dengan dukungan AI terintegrasi.

Siapa pun bisa menjadi korban, karena penjahat hanya memerlukan gambar, video, atau rekaman audio dari orang yang ditiru.

Berita palsu dalam berbagai bentuk berpotensi digunakan untuk menciptakan berita palsu, dan aman untuk berasumsi bahwa pemilihan presiden AS mendatang akan dipenuhi dengan berita palsu semacam itu.

Saat ini, para pembuat undang-undang di seluruh dunia tengah berupaya untuk membuat undang-undang yang melarang jenis citra ini.

Beberapa pendekatan mulai diadopsi di Amerika Serikat dalam hal legislasi, seperti mengandalkan gugatan perdata, atau undang-undang untuk menangani “penyebaran gambar eksplisit seksual seseorang yang dihasilkan oleh AI tanpa persetujuan orang tersebut.”

China juga memperkenalkan peraturan baru yang memungkinkan penuntutan bagi mereka yang menyebarkan gambar hasil rekayasa AI.

Inggris telah menjadikan penyebaran konten deepfake sebagai tindakan ilegal berdasarkan undang-undang keselamatan daringnya.

Bagaimana cara mendeteksi atau mencegahnya?

Langkah pertama adalah mengurangi jumlah foto, video, atau rekaman audio yang Anda miliki daring. Pastikan Anda hanya membagikannya dengan orang yang Anda kenal dan tidak mengunggahnya secara luas. Setelah sesuatu tersebar di internet, hampir mustahil untuk menghapusnya.

Cara kedua adalah menyepakati kata rahasia dengan keluarga Anda untuk mengautentikasi panggilan, sehingga mengurangi risiko terjebak dalam panggilan palsu.

Gambar, terutama video, dapat memiliki kesalahan aneh (tampak dibuat-buat), jika Anda menemukan kesalahan ini maka ada kemungkinan besar gambar atau suara tersebut dipalsukan.

Teknik lain yang dapat digunakan adalah mencari “gambar terbalik” di Google atau mesin pencari lainnya, untuk menentukan sumber gambar aslinya.

Pelajaran terakhir adalah jangan percaya begitu saja apa yang Anda lihat, kamera (atau AI) bisa berbohong!

Deepfake menimbulkan ancaman besar bagi selebriti dan politisi

Dr. Nguyen Van Thang Long, Dosen Senior, Fakultas Komunikasi dan Desain, Universitas RMIT :

Dengan maraknya berita palsu dari deepfake, tim media selebriti dan politisi perlu memiliki sumber daya yang tersedia untuk memantau dan menanggapi berita palsu dengan cepat atau terus-menerus mengoreksi berita palsu.

Jika deepfake secara sistematis dipadukan dengan bentuk-bentuk “humas kotor” yang terorganisir, tugas ini akan menjadi lebih sulit karena maraknya informasi yang saling bertentangan, dan berita palsu serta berita negatif akan selalu lebih banyak dibagikan daripada berita positif.

Biasanya, ketika melihat berita yang dibagikan di jejaring sosial, individu kerap kali memiliki kebiasaan mengonfirmasi informasi tersebut melalui kanal media resmi.

Dengan konten deepfake yang membanjiri media sosial, semakin sulit dan memakan waktu untuk memverifikasi keakuratan berita utama, sehingga memerlukan penelitian mendalam dan teknik verifikasi.

Semakin lama kita menunda memverifikasi berita dan sumbernya, semakin besar kemungkinan informasi palsu, rekayasa, atau menyesatkan akan menyebar karena kecepatan berbagi dan berkomentar di media sosial yang sangat cepat.

Hal ini memperburuk masalah yang mendasarinya dan berpotensi menimbulkan keresahan sosial, terutama jika kontennya berkaitan dengan pidato politik, agama, gender, strategi bisnis, atau masalah ekonomi makro.

Dalam konteks penyebaran deepfake, strategi manajemen risiko yang paling efektif tetap mempertahankan saluran komunikasi yang konsisten, melalui platform media sosial populer, situs web, atau pertemuan tatap muka, antara bisnis, selebritas, politisi, dan pemangku kepentingan utama seperti penggemar, pers, komunitas, dan karyawan.

Meningkatnya penggunaan AI membawa manfaat sekaligus masalah baru yang tak terduga. Foto ilustrasi. (Sumber: Freepik)

Dengan mempertahankan saluran komunikasi ini, penerimaan informasi terkait deepfake menjadi lebih cepat, memungkinkan koreksi rumor yang tepat waktu dan efektif, serta mengungkap misinformasi sejak awal.

Namun, perusahaan, selebritas, dan politisi perlu mengembangkan rencana respons krisis khusus untuk deepfake. Misalnya, siapa yang melaporkan, melalui saluran media apa, kriteria untuk memverifikasi informasi melalui bukti dan sumber tepercaya, menetapkan jangka waktu untuk menyelesaikan rumor, dan menguraikan strategi untuk memulihkan reputasi.

Dengan rencana yang dipersiapkan dengan baik dan metodis, penanganan krisis deepfake akan lebih memungkinkan, meminimalkan kemungkinan konsekuensi yang tidak diinginkan.

[iklan_2]
Sumber