AI mengubah gelandangan menjadi jenaka, polis AS memberi amaran

Ramai pengguna menggunakan AI untuk mencipta imej gelandangan yang muncul di rumah mereka untuk mengejek ibu bapa mereka.

Teknologi AI sedang memulakan era kreativiti yang belum pernah berlaku sebelum ini, di mana orang ramai boleh mencipta imej, suara dan kandungan digital dengan hanya beberapa klik. Walau bagaimanapun, kemudahan ini juga datang dengan risiko yang serius, terutamanya apabila AI digunakan sebagai alat untuk mencipta gurauan berbahaya.

Keadaan yang kelihatan tidak berbahaya menjadi bahan api kepada krisis sosial, undang-undang dan psikologi.

AI mengubah gelandangan menjadi watak maya dalam gurauan TikTok – garis antara hiburan dan kesalahan semakin kabur. (Sumber: The Verge)

TikTok dan jenaka "gelandangan AI".

Di AS, trend TikTok menimbulkan penggera daripada polis: Pengguna menggunakan AI Snapchat untuk mencipta imej lelaki gelandangan yang muncul di rumah, kemudian merakam reaksi panik ibu bapa mereka. Sesetengah ibu bapa telah menghubungi polis, menyebabkan tindak balas kecemasan yang kelihatan seperti pecah masuk sebenar.

Jabatan Polis Salem, Massachusetts memberi amaran bahawa tingkah laku ini boleh mengakibatkan tindakan SWAT.

Agensi itu merumuskannya dengan sebaik-baiknya dalam satu kenyataan: "Pun ini merendahkan gelandangan, menyebabkan panik di kalangan pemanggil, dan membazir sumber polis. Pegawai yang dipanggil untuk bertindak balas tidak menyedari gurauan itu dan menganggap panggilan itu sebagai pencurian sebenar yang sedang dijalankan, mewujudkan situasi yang berpotensi berbahaya."

Usikan AI merebak ke seluruh dunia, bukan hanya di AS. Di India, video Deepfake semasa pilihan raya 2024 menyebabkan kekeliruan orang ramai apabila seorang ahli politik dituduh membuat kenyataan kontroversi - sepenuhnya dihasilkan oleh AI.

Di seluruh dunia , April Fools' Day telah menjadi "taman permainan AI" dengan beberapa siri imej selebriti palsu, mesej palsu daripada saudara mara, menyebabkan trauma psikologi dan mengganggu perkhidmatan kecemasan.

"Perkembangan teknologi AI datang dengan risiko dieksploitasi untuk tujuan jenayah atau menyebabkan panik sosial," kata Lewis Griffin, seorang penyelidik di University College London.

Pemandangan banjir di Istana Gyeongbokgung yang dicipta oleh AI. (Foto dipotong daripada Video , sumber: Youtube).

Pendidikan dan kawalan

Untuk mengelakkan penyalahgunaan AI, adalah penting untuk mendidik pengguna, terutamanya golongan muda, tentang etika teknologi. AI bukan mainan, dan menggunakannya untuk mencipta kandungan palsu harus dilihat sebagai tingkah laku yang berpotensi berbahaya.

Platform seperti TikTok dan Snapchat perlu melaksanakan penapis kandungan AI yang lebih kuat, bersama-sama dengan amaran yang jelas apabila pengguna mencipta imej atau bunyi palsu. Ini bukan sahaja akan melindungi pengguna tetapi juga mengurangkan risiko menimbulkan panik dalam komuniti.

Menurut tinjauan Pew Research, walaupun orang ramai masih mempunyai banyak kebimbangan tentang AI, pakar lebih optimistik. Walau bagaimanapun, kedua-dua kumpulan bersetuju bahawa peraturan yang jelas diperlukan untuk mencegah penyalahgunaan. Membina rangka kerja dan proses undang-undang untuk mengawal AI bukan sahaja tanggungjawab Kerajaan tetapi juga tanggungjawab seluruh masyarakat.

AI boleh mencipta dunia yang hebat, tetapi jika dibiarkan, ia boleh menjadi alat untuk kekeliruan dan herotan kognitif dengan mudah. (Sumber: loveonly.ai/Instagram)

Di samping itu, pihak berkuasa perlu bekerjasama rapat dengan syarikat teknologi untuk membangunkan prosedur tindak balas yang sesuai. Apabila gurauan AI membawa kepada panggilan kecemasan, pembaziran sumber dan risiko tindak balas berlebihan tidak boleh diabaikan.

Encik Quang

Sumber: https://vtcnews.vn/ai-bien-nguoi-vo-gia-cu-thanh-tro-dua-canh-sat-my-canh-bao-ar970842.html