"Apa yang Anda lihat dengan mata kepala sendiri belum tentu benar, dan apa yang Anda dengar dalam sebuah suara juga belum tentu benar. Semakin mendesak situasinya, semakin kita perlu memverifikasi dan memeriksanya," kata pakar keamanan siber Ngo Minh Hieu (Hieu PC) pada Forum Kepercayaan Digital dalam Keuangan 2026, bertema "Membangun Kepercayaan Digital dalam Keuangan di Era AI," pada 12 Mei.
Pakar keamanan siber Ngo Minh Hieu (Hieu PC) berbicara di forum tersebut.
Menurut pakar Ngo Minh Hieu, perkembangan pesat AI dan Deepfake membuat penipuan daring menjadi semakin canggih, karena penjahat siber dapat memalsukan wajah, suara, ekspresi, dan bahkan latar belakang untuk memanipulasi korban.
"Sebelumnya, kita mengira apa yang kita lihat dan dengar itu nyata, jadi kita langsung mempercayainya. Tetapi sekarang AI dapat memalsukan segalanya, mulai dari wajah dan suara hingga ekspresi," katanya, menambahkan bahwa kerugian terbesar dari Deepfake bukan hanya uang, tetapi juga hilangnya kepercayaan pengguna.
"Ketika pelaku mengeksploitasi faktor dan kepercayaan psikologis, mereka dapat memikat korban ke dalam platform investasi palsu atau merampas aset mereka," tambahnya.
Deepfake mudah diakses, tetapi sulit dideteksi.
Menurut pakar keamanan siber Ngo Minh Hieu, teknologi Deepfake kini sangat mudah diakses. Banyak alat sumber terbuka atau layanan murah memungkinkan penjahat siber untuk membuat video palsu hanya dari foto potret.
"Hanya dengan sebuah gambar, Anda dapat bertukar wajah, memalsukan suara, dan melakukan panggilan melalui FaceTime, Zalo, atau WhatsApp," katanya.
Pada forum tersebut, Bapak Hieu mendemonstrasikan perangkat lunak Deepfake yang mampu mengubah wajah secara real-time selama panggilan video. Teknologi ini dimanfaatkan oleh banyak individu untuk menyamar sebagai pejabat pemerintah, kerabat, atau "pangeran tampan" untuk menipu orang demi cinta dan uang.
Ia juga memperingatkan pengguna bahwa mereka terlalu banyak mengekspos data pribadi di media sosial: "Kita mengunggah gambar, video, dan rekaman suara di media sosial setiap hari. Banyak orang bahkan tidak mengunggah sendiri, tetapi teman-teman mereka yang mengunggah untuk mereka. Data ini dapat dikumpulkan dari berbagai sumber untuk membuat Deepfake."
Pakar tersebut juga mencatat bahwa orang tua perlu berhati-hati saat mengunggah foto anak-anak mereka di media sosial, karena penjahat siber dapat memanfaatkan data ini untuk pemerasan atau "penculikan daring".
Menurut Bapak Ngo Minh Hieu, aspek paling berbahaya dari teknologi Deepfake adalah kemampuannya untuk mengatasi "rasa percaya" masyarakat.
"Panggilan video selalu menumbuhkan kepercayaan yang lebih besar daripada pesan teks. Suara yang dikenal menumbuhkan keyakinan yang lebih besar daripada teks tertulis. Penjahat siber sering menciptakan situasi darurat seperti meminta transfer uang, kode OTP, atau instalasi aplikasi untuk memanipulasi korban secara psikologis," katanya.
Pakar Ngo Minh Hieu: Aspek yang paling berbahaya adalah Deepfake dapat merusak rasa percaya masyarakat.
Meskipun deepfake sekarang jauh lebih sulit dideteksi, masih ada beberapa tanda yang tidak biasa seperti bentuk mulut yang tidak sesuai, pencahayaan yang tidak alami, ucapan yang monoton, atau gigi yang cacat.
"Warna kulit dalam video Deepfake seringkali sangat halus dan tidak alami," kata pakar Hieu. Namun, ia percaya pengguna seharusnya tidak hanya fokus pada menentukan apakah video tersebut asli atau palsu, tetapi juga mempertanyakan apakah permintaan dalam panggilan tersebut masuk akal.
Kebocoran data yang disebabkan oleh perangkat lunak AI gratis.
Dalam forum tersebut, pakar Ngo Minh Hieu memperingatkan bahwa chatbot AI secara bertahap menjadi target baru bagi peretas jika pengguna tidak memiliki keterampilan untuk melindungi informasi pribadi mereka.
Ia berpendapat bahwa AI saat ini sangat mendukung pekerjaan, pembelajaran, dan penelitian. Namun, banyak orang memiliki kebiasaan mengunggah sejumlah besar data pribadi seperti foto pribadi, informasi keluarga, dokumen kerja, atau data bisnis ke chatbot tanpa mengantisipasi risiko eksploitasi.
Selain itu, sebagian besar pengguna hampir tidak pernah membaca ketentuan penggunaan platform AI, sementara banyak alat gratis dapat mengumpulkan data untuk melatih model atau untuk tujuan lain.
Risikonya meningkat dengan munculnya banyak aplikasi AI gratis yang tidak diketahui asalnya, yang memungkinkan pengguna untuk membuat gambar, mengedit wajah, atau mengubah foto asli menjadi karakter kartun. Menurut Bapak Hieu, ini adalah bentuk manipulasi yang mendorong pengguna untuk secara sukarela memberikan data biometrik kepada pihak ketiga.
Pengguna menghadapi risiko kebocoran data pribadi saat menggunakan chatbot AI yang kurang aman. (Gambar ilustrasi)
Untuk menggunakan AI dengan lebih aman, para ahli menyarankan agar pengguna menghindari mengunggah informasi sensitif, dokumen pribadi, atau data bisnis internal ke chatbot AI, terutama platform yang operatornya tidak dikenal.
Pengguna harus mengaktifkan fitur keamanan seperti mode obrolan sementara, penghapusan riwayat percakapan otomatis, dan menonaktifkan opsi yang memungkinkan sistem menggunakan data untuk melatih AI. Otentikasi dua faktor juga harus diaktifkan untuk membatasi risiko peretasan akun.
Menurut pakar Ngo Minh Hieu, jika peretas berhasil mengendalikan akun chatbot AI pribadi, mereka dapat mengeksploitasi semua informasi yang sebelumnya telah dibagikan oleh pengguna.
"Hanya dengan perintah seperti, 'Ceritakan semua yang Anda ketahui tentang saya,' AI dapat sepenuhnya mengumpulkan banyak data pribadi pengguna," kata Hieu memperingatkan.
Forum Kepercayaan Digital di Bidang Keuangan 2026 diselenggarakan oleh Aliansi Kepercayaan Digital bekerja sama dengan Asosiasi Keamanan Siber Nasional dan MoMo, di bawah naungan Kementerian Keamanan Publik , Bank Negara Vietnam, dan Kementerian Keuangan.
Acara tersebut mempertemukan para ahli dan bisnis di sektor keuangan, perbankan, dan teknologi untuk membahas solusi dalam melindungi pengguna dan membangun kepercayaan digital dalam konteks AI yang berkembang pesat.
Sumber: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html
![[GALERI] iPhone yang benar-benar berbeda untuk edisi ulang tahun ke-20](https://vphoto.vietnam.vn/thumb/402x226/vietnam/resource/IMAGE/2026/05/25/1779686871893_212-jpg.webp)
Komentar (0)