Audio Deepfake, kebimbangan baharu tentang maklumat salah

Pejabat Peguam Negara New Hampshire mengumumkan pada hari Isnin bahawa ia sedang menyiasat kemungkinan manipulasi pengundi selepas aduan suara palsu yang berbunyi sama seperti Presiden AS Joe Biden menggesa pengundi untuk tidak mengundi di pemilihan utama negeri.

Penyelidik juga memberi amaran tentang penggunaan audio palsu untuk meniru ahli politik dan pemimpin, dengan kes yang ketara berlaku pada 2023 di UK, India, Nigeria, Sudan, Ethiopia dan Slovakia.

deepfake audio baharu maklumat baharu imej palsu 1 — Seseorang mengundi dalam pilihan raya utama di New Hampshire, Amerika Syarikat. Foto: Getty

Audio Deepfake telah menjadi bentuk maklumat salah yang popular disebabkan oleh kemunculan pelbagai alat AI yang murah dan berkesan daripada syarikat permulaan, menurut pakar. Microsoft juga telah membangunkan model AI baharu yang boleh menyalin suara daripada hanya tiga saat rakaman.

"Apabila bercakap tentang manipulasi visual, semua orang biasa dengan Photoshop atau sekurang-kurangnya tahu ia wujud," kata Henry Ajder, pakar AI dan deepfake serta perunding untuk Adobe, Meta dan EY. "Terdapat sedikit kesedaran tentang cara audio boleh dimanipulasi, jadi bagi saya itu benar-benar menyebabkan kita terdedah."

Pada bulan September, NewsGuard, sebuah sistem yang menilai kualiti dan kebolehpercayaan tapak berita, menemui rangkaian akaun TikTok yang menyamar sebagai tapak berita yang sah, menggunakan kandungan yang dijana AI untuk menyebarkan teori konspirasi dan maklumat salah politik. Rakaman palsu, termasuk suara bekas Presiden AS Barack Obama, mendapat ratusan juta tontonan.

Suara palsu nampaknya dihasilkan oleh alat yang disediakan oleh ElevenLabs yang disokong Andreessen Horowitz, manakala klip tersebut telah mendapat ratusan juta tontonan, kata NewsGuard.

"Lebih 99% pengguna di platform kami mencipta kandungan yang menarik, kreatif, berguna, tetapi kami menyedari bahawa terdapat kes penyalahgunaan dan kami telah membangunkan dan memperkenalkan perlindungan secara berterusan untuk mengehadkannya," kata ElevenLabs.

ElevenLabs, yang diasaskan dua tahun lalu oleh bekas pekerja Google dan Palantir Piotr Dabkowski dan Mati Staniszewski, menawarkan alat penjanaan audio AI asas secara percuma dengan hanya satu klik. Pelan langganan berkisar antara $1 sebulan hingga $330 sebulan dan seterusnya bagi mereka yang mencari perkhidmatan yang lebih kompleks.

Tahun lepas, agensi perisikan AS memberi amaran dalam laporan bahawa "penipuan AI diperibadikan telah meningkat dengan ketara disebabkan oleh pengeluaran model pengklonan suara AI yang canggih dan terlatih."

Selain penipuan bermotifkan kewangan, pakar politik kini membunyikan penggera tentang klip audio deepfake yang tular, serta penggunaan deepfakes untuk panggilan robo atau kempen. "Anda boleh membina kempen disinformasi yang berkuasa dan meluas dengan menyasarkan telefon," kata AJ Nash, naib presiden dan felo perisikan terkenal di kumpulan keselamatan siber ZeroFox.

Sesetengah syarikat ini telah proaktif dalam mencari cara lain untuk memerangi maklumat salah. Microsoft telah mengeluarkan kenyataan etika, menggesa pengguna melaporkan sebarang penyalahgunaan alat audio AInya. ElevenLabs telah membina alat pengesanannya sendiri untuk mengenal pasti rakaman audio yang dibuat oleh sistemnya.

Semasa pilihan raya Nigeria 2023, klip yang dimanipulasi AI menjadi tular di media sosial "bermaksud membayangkan calon pembangkang sedang merancang untuk menipu undi," menurut kumpulan hak asasi manusia Freedom House.

Di Slovakia, rakaman audio palsu calon pembangkang Michal Šimečka nampaknya merancang untuk menipu pilihan raya menjadi tular beberapa hari sebelum pilihan raya presiden negara itu pada September.

"Deepfake New Hampshire ialah peringatan tentang banyak cara deepfake boleh mengelirukan dan menipu," kata Robert Weissman, presiden kumpulan advokasi pengguna bukan untung Public Citizen. "Saat palsu politik telah tiba. Penggubal dasar mesti bergerak cepat untuk meletakkan perlindungan atau kita akan menghadapi huru-hara pilihan raya."

Mai Anh (menurut FT)

Sumber