Timbul kebimbangan bahawa chatbot Grok boleh menyemarakkan penyebaran maklumat salah di internet.

Bot sembang Elon Musk, Grok, telah mula membenarkan pengguna mencipta imej AI daripada teks dan menyiarkannya di X, termasuk imej palsu ahli politik seperti bekas Presiden AS Donald Trump, Naib Presiden AS Kamala Harris...

Tidak seperti alat penangkapan imej AI arus perdana yang lain, Grok Musk nampaknya mempunyai lebih sedikit peraturan. Contohnya, dalam ujian CNN , Grok dengan mudah menghasilkan imej palsu ahli politik, yang mengelirukan pengundi.

Imej Elon Musk yang dicipta oleh chatbot Grok. (Sumber: CNN)

Sesetengah pengguna X juga menyiarkan imej yang dihasilkan oleh Grok, menunjukkan orang terkenal yang mengambil dadah, watak kartun melakukan pembunuhan dan menseksualkan wanita yang memakai bikini.

Menurut CNN , Grok terus mencetuskan kebimbangan bahawa AI boleh mencetuskan lonjakan maklumat salah di internet, terutamanya dengan pilihan raya presiden AS yang semakin hampir.

Penggubal undang-undang, kumpulan aktivis sosial dan pemimpin teknologi telah membunyikan amaran, memberi amaran bahawa penyalahgunaan alat sedemikian boleh menyebabkan kekeliruan dan huru-hara bagi pengundi.

Banyak syarikat AI terkemuka di dunia telah melaksanakan dasar untuk menghalang alat penjana imej berasaskan AI daripada digunakan untuk mencipta maklumat salah politik, walaupun para penyelidik mendapati bahawa pengguna kadangkala masih mencari jalan untuk memintas dasar-dasar ini.

Beberapa syarikat, seperti OpenAI, Meta dan Microsoft, menggunakan teknologi atau label untuk membantu penonton mengenal pasti imej yang dihasilkan menggunakan AI mereka.

Platform media sosial, termasuk YouTube, TikTok, Instagram dan Facebook, turut melabelkan kandungan yang dijana AI dalam suapan pengguna, menggunakan teknologi sama ada untuk mengesannya sendiri atau mendorong pengguna untuk mengenal pasti bila mereka menyiarkan kandungan tersebut.

Pada 16 Ogos, AI nampaknya telah mengenakan beberapa sekatan ke atas Grok. Alat ini kini enggan mencipta imej calon politik atau watak kartun popular yang terlibat dalam tindakan ganas.

Sumber: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-บน-internet-283068.html