Para ahli merekomendasikan untuk menyiapkan skenario manajemen krisis khusus untuk deepfake.

Apa pendapat para ahli tentang istilah deepfake dan masalah terkini seputar foto telanjang palsu selebriti yang tersebar, seperti penyanyi Taylor Swift di X...?

Berikut adalah pendapat dua pakar dari Universitas RMIT mengenai dampak buruk deepfake dan solusi yang diusulkan untuk masalah ini:

Chuyên gia khuyến cáo cách chuẩn bị trước kịch bản xử lý khủng hoảng dành riêng cho deepfake

Dr. Jonathan Crellin (kiri) dan Dr. Nguyen Van Thang Long (kanan). (Sumber: Universitas RMIT)

Para penjahat siber memanfaatkan teknologi baru dengan cara yang tak terduga.

Dr. Jonathan Crellin, Kepala Departemen Keamanan Informasi, Fakultas Sains , Teknik dan Teknologi, Universitas RMIT :

Deepfake adalah gambar yang dihasilkan mesin yang dapat menggabungkan gambar atau video dari berbagai sumber untuk menciptakan gambar, video, atau bahkan audio yang sangat realistis.

Deepfake didasarkan pada teknik dalam AI yang disebut pembelajaran mesin, yang dapat mengganti dan mengintegrasikan elemen-elemen seperti wajah seseorang ke dalam gambar atau video lain.

Salah satu contoh penggunaan deepfake adalah penggabungan konten pornografi dengan foto Taylor Swift untuk menciptakan gambar palsu.

Untuk mencapai hal ini, dalang di baliknya membutuhkan beberapa gambar agar perangkat lunak dapat mempelajari ekspresi wajah penyanyi tersebut, kemudian menggabungkannya dengan konten pornografi untuk menciptakan gambar cabul, yang mencoreng citra penyanyi tersebut.

Faktanya, ada rumor bahwa gambar-gambar ini dirilis oleh sebuah grup di Telegram dan dibuat menggunakan Microsoft Designer, sebuah alat dengan dukungan AI terintegrasi.

Siapa pun bisa menjadi korban, karena pelaku hanya membutuhkan gambar, video, atau rekaman audio dari orang yang identitasnya sedang ditiru.

Berbagai bentuk aktivitas curang kemungkinan akan digunakan untuk menciptakan disinformasi, dan dapat dipastikan bahwa pemilihan presiden AS mendatang akan dipenuhi dengan berita palsu semacam itu.

Saat ini, para pembuat undang-undang di seluruh dunia berupaya untuk memberlakukan peraturan terhadap jenis gambar seperti ini.

Beberapa pendekatan mulai diadopsi di Amerika Serikat dalam pembuatan undang-undang, seperti mengandalkan gugatan perdata, atau undang-undang untuk mengatasi "penyebaran gambar pornografi yang dihasilkan AI dari seseorang tanpa persetujuan orang tersebut."

China juga telah memperkenalkan peraturan baru yang memungkinkan penuntutan terhadap individu yang menyebarluaskan gambar yang dibuat oleh AI.

Britania Raya menganggap berbagi konten deepfake sebagai tindakan ilegal berdasarkan undang-undang keamanan daringnya.

Bagaimana kita dapat mendeteksi atau mencegah hal ini?

Pendekatan pertama adalah mengurangi jumlah gambar, video, atau rekaman audio yang Anda bagikan secara online. Pastikan Anda hanya membagikannya dengan orang yang Anda kenal dan jangan menyebarluaskannya secara luas di internet. Setelah konten diunggah ke internet, hampir tidak mungkin untuk menghapusnya.

Opsi kedua adalah menyepakati kode rahasia dengan anggota keluarga untuk mengautentikasi panggilan, sehingga mengurangi risiko menjadi korban penipuan panggilan.

Gambar, terutama video, dapat memiliki kekurangan yang aneh (terlihat seperti dibuat-buat), dan jika Anda menemukan kekurangan ini, kemungkinan besar gambar atau suara tersebut telah dipalsukan.

Teknik lain yang dapat digunakan adalah mencari "gambar terbalik" di Google atau mesin pencari lainnya untuk mengidentifikasi sumber gambar aslinya.

Pelajaran terakhirnya adalah: jangan percaya begitu saja pada apa yang Anda lihat; kamera (atau AI) bisa berbohong!

Deepfake merupakan ancaman signifikan bagi selebriti dan politisi.

Dr. Nguyen Van Thang Long, Dosen Senior, Departemen Komunikasi dan Desain, Universitas RMIT :

Dengan maraknya berita palsu dari deepfake, tim media selebriti dan politisi perlu memiliki sumber daya untuk memantau dan menanggapi berita palsu dengan cepat atau terus menerus mengoreksi informasi yang salah.

Jika deepfake secara sistematis dikombinasikan dengan bentuk-bentuk "PR kotor" yang terorganisir, tugas ini menjadi semakin sulit karena proliferasi informasi yang saling bertentangan, dan berita palsu serta berita negatif akan selalu lebih banyak dibagikan daripada berita positif.

Biasanya, ketika individu melihat berita yang dibagikan di media sosial, mereka cenderung memverifikasi informasi tersebut melalui saluran berita resmi.

Dengan maraknya konten deepfake di media sosial, memverifikasi keakuratan berita arus utama menjadi semakin sulit dan memakan waktu, serta membutuhkan riset mendalam dan teknik verifikasi.

Semakin lama penundaan dalam memverifikasi berita dan sumbernya, semakin luas penyebaran informasi yang salah, rekayasa, atau informasi yang menyesatkan karena kecepatan berbagi dan berkomentar yang sangat tinggi di media sosial.

Hal ini memperparah akar permasalahan dan berpotensi menyebabkan keresahan sosial, terutama jika konten tersebut berkaitan dengan pidato politik, agama, gender, strategi bisnis, atau isu-isu makroekonomi.

Dalam konteks aktivitas deepfake yang meluas, strategi manajemen risiko yang paling efektif tetaplah menjaga saluran komunikasi yang konsisten, melalui platform media sosial populer, situs web, atau pertemuan tatap muka, antara bisnis, selebriti, politisi, dan pemangku kepentingan utama seperti penggemar, pers, komunitas, dan karyawan.

Meningkatnya penggunaan AI membawa manfaat sekaligus masalah baru yang tak terduga. (Gambar ilustrasi. Sumber: Freepik)

Dengan menjaga saluran komunikasi ini, informasi terkait deepfake dapat diterima lebih cepat, sehingga memungkinkan koreksi rumor yang tepat waktu dan efektif serta mengungkap informasi yang salah sejak awal.

Namun, perusahaan, selebriti, dan politisi perlu mengembangkan rencana manajemen krisis khusus untuk deepfake. Misalnya, mereka perlu menentukan siapa yang akan mengumumkan insiden tersebut, melalui saluran media mana, kriteria untuk memverifikasi informasi menggunakan bukti dan sumber yang kredibel, menetapkan jangka waktu untuk mengatasi rumor tersebut, dan menguraikan strategi untuk memulihkan kredibilitas.

Dengan strategi yang terencana dan dipersiapkan dengan baik, menangani krisis deepfake menjadi lebih mudah, meminimalkan potensi konsekuensi negatif.

Sumber