Polisi AS memperingatkan bahwa AI mengubah tunawisma menjadi lelucon

Teknologi AI menandai era kreativitas yang belum pernah terjadi sebelumnya, di mana orang dapat menciptakan gambar, suara, dan konten digital hanya dengan beberapa klik. Namun, kemudahan ini juga disertai risiko serius, terutama ketika AI digunakan sebagai alat untuk membuat lelucon berbahaya.

Situasi yang tampaknya tidak berbahaya justru menjadi bahan bakar bagi krisis sosial, hukum, dan psikologis.

AI mengubah tunawisma menjadi karakter virtual dalam lelucon TikTok – batas antara hiburan dan pelanggaran semakin kabur. (Sumber: The Verge)

TikTok dan lelucon “tunawisma AI”

Di AS, tren TikTok memicu kekhawatiran dari pihak kepolisian: Pengguna menggunakan AI Snapchat untuk membuat gambar tunawisma yang muncul di rumah-rumah, lalu merekam reaksi panik orang tua mereka. Beberapa orang tua telah menghubungi polisi, yang memicu respons darurat yang tampak seperti pembobolan sungguhan.

Departemen Kepolisian Salem, Massachusetts memperingatkan bahwa perilaku ini dapat mengakibatkan tindakan SWAT.

Badan tersebut merangkumnya dengan baik dalam sebuah pernyataan: "Prank ini merendahkan tunawisma, menyebabkan kepanikan di antara penelepon, dan membuang-buang sumber daya polisi. Petugas yang dipanggil untuk merespons tidak menyadari prank tersebut dan menganggap panggilan tersebut sebagai perampokan sungguhan, sehingga menciptakan situasi yang berpotensi berbahaya."

Prank AI menyebar di seluruh dunia, tidak hanya di AS. Di India, sebuah video Deepfake selama pemilu 2024 menyebabkan kebingungan publik ketika seorang politisi dituduh membuat pernyataan kontroversial – yang sepenuhnya dihasilkan oleh AI.

Di seluruh dunia , April Mop telah menjadi "taman bermain AI" dengan serangkaian gambar selebriti palsu, pesan palsu dari kerabat, yang menyebabkan trauma psikologis dan mengganggu layanan darurat.

“Perkembangan teknologi AI disertai risiko dieksploitasi untuk tujuan kriminal atau menyebabkan kepanikan sosial,” ujar Lewis Griffin, seorang peneliti di University College London.

Pemandangan banjir di Istana Gyeongbokgung yang dibuat oleh AI. (Potongan foto dari Video, sumber: Youtube). — Adegan banjir di Istana Gyeongbokgung yang dibuat oleh AI. (Potongan foto dari Video , sumber: Youtube).

Pendidikan dan kontrol

Untuk mencegah penyalahgunaan AI, penting untuk mengedukasi pengguna, terutama kaum muda, tentang etika teknologi. AI bukanlah mainan, dan menggunakannya untuk membuat konten palsu harus dipandang sebagai perilaku yang berpotensi berbahaya.

Platform seperti TikTok dan Snapchat perlu menerapkan filter konten AI yang lebih kuat, beserta peringatan yang jelas ketika pengguna membuat gambar atau suara palsu. Hal ini tidak hanya akan melindungi pengguna tetapi juga mengurangi risiko kepanikan di masyarakat.

Menurut survei Pew Research, meskipun masyarakat masih memiliki banyak kekhawatiran tentang AI, para ahli lebih optimis. Namun, kedua kelompok sepakat bahwa regulasi yang jelas diperlukan untuk mencegah penyalahgunaan. Membangun kerangka hukum dan proses untuk mengendalikan AI bukan hanya tanggung jawab Pemerintah, tetapi juga kewajiban seluruh masyarakat.

AI dapat menciptakan dunia yang fantastis, tetapi jika dibiarkan, ia dapat dengan mudah menjadi alat yang menyebabkan kebingungan dan distorsi kognitif. (Sumber: loveonly.ai/Instagram)

Selain itu, pihak berwenang perlu bekerja sama dengan perusahaan teknologi untuk mengembangkan prosedur respons yang tepat. Ketika lelucon AI menyebabkan panggilan darurat, pemborosan sumber daya dan risiko reaksi berlebihan tidak dapat diabaikan.

Tuan Quang

Sumber: https://vtcnews.vn/ai-bien-nguoi-vo-gia-cu-thanh-tro-dua-canh-sat-my-canh-bao-ar970842.html