Kebimbangan bahawa chatbot Grok menyebabkan ledakan maklumat salah di internet

Chatbot Grok milik Elon Musk telah mula membenarkan pengguna mencipta imej AI daripada teks dan menyiarkannya di X, termasuk imej palsu ahli politik seperti bekas Presiden AS Donald Trump, Naib Presiden AS Kamala Harris...

Tidak seperti alat pengambilan foto AI arus perdana yang lain, Musk's Grok nampaknya mempunyai peraturan yang lebih sedikit. Dalam ujian CNN , sebagai contoh, Grok dengan mudah mencipta imej palsu ahli politik, mengelirukan pengundi.

Imej Elon Musk dicipta oleh chatbox Grok. (Sumber: CNN)

Sesetengah pengguna X juga menyiarkan imej yang dicipta oleh Grok, menunjukkan selebriti menghisap dadah, watak kartun membunuh orang dan imej seksual wanita dalam bikini.

Menurut CNN , Grok seterusnya menimbulkan kebimbangan bahawa AI boleh mencetuskan ledakan maklumat salah di Internet, terutamanya apabila pilihan raya presiden AS semakin hampir.

Penggubal undang-undang, kumpulan aktivis dan pemimpin teknologi telah membunyikan penggera bahawa penyalahgunaan alat sedemikian boleh menyebabkan kekeliruan dan huru-hara kepada pengundi.

Banyak syarikat AI terkemuka di dunia telah melaksanakan dasar untuk menghalang alatan penjanaan imej berasaskan AI daripada digunakan untuk mencipta maklumat salah politik, walaupun penyelidik mendapati bahawa pengguna kadangkala mencari jalan mengikut peraturan.

Beberapa syarikat seperti OpenAI, Meta dan Microsoft menggunakan teknologi atau label untuk membantu penonton mengetahui imej yang dihasilkan oleh AI mereka.

Rangkaian sosial termasuk YouTube, TikTok, Instagram dan Facebook juga melabelkan kandungan yang dijana AI dalam suapan pengguna, menggunakan teknologi untuk mengesannya sendiri atau meminta pengguna mengenal pasti apabila mereka menyiarkannya.

Pada 16 Ogos, AI nampaknya mengenakan beberapa sekatan ke atas Grok. Alat itu kini enggan menjana imej calon politik atau watak kartun terkenal yang melakukan tindakan keganasan.

Sumber: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html