Pakar AI dan saintis politik yang celik teknologi sedang memberi amaran tentang sifat alat penjanaan AI seperti ChatGPT yang tidak dapat diramalkan menjelang pilihan raya presiden AS 2024.
"AS tidak bersedia untuk itu."
Fox News melaporkan pada 15 Mei bahawa AJ Nash, Naib Presiden AI di ZeroFox, sebuah syarikat keselamatan siber yang berpangkalan di Minnesota, memberi amaran kepada rakyat Amerika bahawa mereka tidak bersedia untuk prospek berurusan dengan AI generatif. Menurutnya, AI generatif bukan sahaja boleh mencipta e-mel, mesej teks dan klip video untuk kempen pilihan raya dengan cepat, tetapi juga boleh diubah menjadi alat yang berbahaya.
Kerajaan di seluruh dunia berlumba-lumba mencari jalan untuk mengawal selia alatan AI.
"AI Generatif membawa lonjakan ketara dalam keupayaan untuk mencipta kandungan audio dan video. Apabila anda boleh melakukannya secara besar-besaran dan mengedarkannya merentasi platform media sosial, teknologi ini akan memberi impak yang sangat besar," jelas Nash. Antara banyak keupayaan yang boleh dicapai oleh AI generatif seperti ChatGPT, terdapat beberapa keupayaan yang boleh mempengaruhi pilihan raya dan pengundian dengan kuat di negara moden seperti Amerika Syarikat.
ChatGPT boleh menjana banyak kandungan dalam masa yang singkat.
Foto ilustrasi: REUTERS
Contohnya, ChatGPT boleh menjana mesej suara automatik yang meniru suara calon, mengarahkan pengundi untuk mengundi pada hari yang salah; mengeluarkan rakaman audio palsu calon yang mengaku melakukan jenayah atau mencipta kandungan perkauman; dan mencipta klip video seseorang yang memberi ucapan atau temu bual yang sebenarnya tidak pernah berlaku. Di samping itu, imej yang dijana komputer berdasarkan laporan berita tempatan boleh muncul, mengandungi maklumat yang mengelirukan seperti mengumumkan penarikan diri calon daripada perlumbaan.
"Apa yang akan berlaku jika jutawan Elon Musk secara peribadi menghubungi dan memujuk anda untuk mengundi calon tertentu?" tanya Dr. Oren Etzioni, bekas Ketua Pegawai Eksekutif pengasas Allen Institute for AI (yang berpangkalan di negeri Washington, Amerika Syarikat). "Ramai orang akan mendengarnya. Tetapi dia tidak membuat panggilan telefon itu; ia adalah AI," tegas Dr. Etzioni.
Ancaman daripada pihak lawan.
Petko Stoyanov, Ketua Pegawai Teknologi Global firma keselamatan siber Forcepoint (yang berpangkalan di Texas, Amerika Syarikat), memberi amaran bahawa kuasa asing boleh mengeksploitasi AI untuk cuba mengganggu pilihan raya AS 2024. "Apa yang berlaku jika kuasa asing, organisasi jenayah siber atau sesebuah negara cuba menyamar sebagai seseorang? Apakah kesannya? Adakah kita mempunyai tindak balas?" Stoyanov mengemukakan soalan-soalan ini. Menurutnya, AS akan menyaksikan gelombang maklumat salah daripada sumber asing semasa tempoh pilihan raya.
Senator Pete Ricketts (Nebraska) juga memberi amaran tentang risiko organisasi pro-China menggunakan deepfake (teknologi yang menghasilkan imej dan video palsu agar kelihatan dan berbunyi seperti orang dan peristiwa sebenar) semasa musim pilihan raya 2024. "Mereka sememangnya mempunyai keupayaan ini, dan itu sesuatu yang perlu kita benar-benar berhati-hati," kata Ricketts dalam satu temu bual dengan Fox News.
Sejak awal tahun ini, berita palsu yang dihasilkan oleh AI telah berulang kali menimbulkan kekecohan di media sosial. Contohnya termasuk klip video palsu Biden yang menyerang golongan transgender, atau imej rekaan yang menunjukkan kanak-kanak mempelajari Satanisme di perpustakaan. Ramai orang juga secara membuta tuli mempercayai internet selepas gambar bekas Presiden Donald Trump dalam rekod polis muncul, walaupun dia tidak pernah difoto melakukan jenayah. Imej lain yang dihasilkan oleh AI menunjukkan Trump menentang penangkapan, dan sudah tentu, imej itu juga palsu.
Wakil Yvette Clarke (New York) memperkenalkan rang undang-undang yang mewajibkan calon memaklumkan pengundi tentang imej pengiklanan yang dijana AI. Clarke juga menaja bersama rang undang-undang yang mewajibkan sesiapa sahaja yang mencipta imej komposit menambah tanda air yang menunjukkan sumber imej tersebut dengan jelas. Beberapa negeri juga telah memperkenalkan cadangan mereka sendiri untuk menangani kebimbangan mengenai deepfake.
Senator Ricketts pula mencadangkan bahawa apa yang boleh dilakukan sekarang adalah meningkatkan pendidikan dalam kalangan rakyat Amerika tentang bahaya yang ditimbulkan oleh imej yang dijana AI. Beliau berhujah bahawa kerajaan AS boleh bekerjasama dengan universiti untuk meningkatkan keupayaan mereka mengesan imej palsu sebelum pilihan raya bermula.
ChatGPT telah dinaik taraf.
Menurut Mashable, OpenAI (California, USA) baru sahaja membuat peningkatan ketara kepada ChatGPT, membolehkan alat ini berhubung dan melayari web semasa dijalankan. Ini membolehkan ChatGPT mengemas kini dengan maklumat terkini dan memberikan jawapan yang lebih tepat. Pada masa ini, syarikat seperti Amazon sedang mengupah jurutera AI untuk membina dan mengintegrasikan antara muka seperti ChatGPT untuk komunikasi pelanggan.
[iklan_2]
Pautan sumber
Komen (0)