Kekhawatiran bahwa chatbot Grok menyebabkan lonjakan misinformasi di Internet

Chatbot Grok milik Elon Musk kini memungkinkan pengguna membuat gambar AI dari teks dan mengunggahnya ke X, termasuk gambar palsu politisi seperti mantan Presiden AS Donald Trump, Wakil Presiden AS Kamala Harris...

Berbeda dengan alat foto AI arus utama lainnya, Grok milik Musk tampaknya memiliki lebih sedikit regulasi. Dalam uji coba CNN , misalnya, Grok dengan mudah menciptakan gambar palsu politisi, yang menyesatkan pemilih.

Gambar Elon Musk yang dibuat oleh chatbox Grok. (Sumber: CNN)

Beberapa pengguna X juga mengunggah gambar yang dibuat oleh Grok, yang memperlihatkan selebriti sedang menghisap narkoba, tokoh kartun sedang membunuh orang, dan gambar wanita berbikini yang diseksualisasi.

Menurut CNN , Grok lebih lanjut mengemukakan kekhawatiran bahwa AI dapat memicu ledakan misinformasi di Internet, terutama saat pemilihan presiden AS semakin dekat.

Para pembuat undang-undang, kelompok aktivis, dan pemimpin teknologi telah membunyikan peringatan bahwa penyalahgunaan alat-alat tersebut dapat menyebabkan kebingungan dan kekacauan bagi para pemilih.

Banyak perusahaan AI terkemuka di dunia telah menerapkan kebijakan untuk mencegah alat pembuat gambar berbasis AI mereka digunakan untuk menciptakan misinformasi politik, meskipun para peneliti menemukan bahwa pengguna terkadang menemukan cara untuk mengakali aturan tersebut.

Beberapa perusahaan seperti OpenAI, Meta, dan Microsoft menggunakan teknologi atau label untuk membantu pemirsa mengetahui gambar mana yang dihasilkan oleh AI mereka.

Jejaring sosial termasuk YouTube, TikTok, Instagram dan Facebook juga memberi label konten yang dihasilkan AI di umpan pengguna, menggunakan teknologi untuk mendeteksinya sendiri atau meminta pengguna untuk mengidentifikasi kapan mereka mempostingnya.

Pada 16 Agustus, AI tampaknya memberlakukan beberapa pembatasan pada Grok. Alat tersebut kini menolak untuk menghasilkan gambar kandidat politik atau karakter kartun populer yang melakukan tindakan kekerasan.

Sumber: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html