نگرانی‌هایی مبنی بر اینکه چت‌بات گروک باعث افزایش اطلاعات نادرست در اینترنت می‌شود

چت‌بات Grok ایلان ماسک به کاربران اجازه می‌دهد تا تصاویر هوش مصنوعی را از متن ایجاد کرده و آنها را در X منتشر کنند، از جمله تصاویر جعلی از سیاستمدارانی مانند دونالد ترامپ، رئیس جمهور سابق آمریکا، کامالا هریس، معاون رئیس جمهور آمریکا...

برخلاف دیگر ابزارهای رایج عکاسی هوش مصنوعی، به نظر می‌رسد گروکِ ماسک مقررات کمتری دارد. برای مثال، در آزمایش CNN ، گروک به راحتی تصاویر جعلی از سیاستمداران ایجاد کرد و رأی‌دهندگان را گمراه کرد.

تصویر ایلان ماسک که توسط چت‌باکس گروک ساخته شده است. (منبع: CNN)

برخی از کاربران X همچنین تصاویری را که توسط Grok ایجاد شده بود، منتشر کردند که افراد مشهور را در حال مصرف مواد مخدر، شخصیت‌های کارتونی را در حال کشتن افراد و تصاویر جنسی از زنان با بیکینی نشان می‌داد.

به گزارش سی‌ان‌ان ، گروک در ادامه نگرانی‌هایی را مطرح می‌کند مبنی بر اینکه هوش مصنوعی می‌تواند به انفجار اطلاعات نادرست در اینترنت دامن بزند، به خصوص با نزدیک شدن به انتخابات ریاست جمهوری آمریکا.

قانون‌گذاران، گروه‌های فعال و رهبران فناوری هشدار داده‌اند که سوءاستفاده از چنین ابزارهایی می‌تواند باعث سردرگمی و هرج و مرج برای رأی‌دهندگان شود.

بسیاری از شرکت‌های پیشرو در حوزه هوش مصنوعی در جهان ، سیاست‌هایی را برای جلوگیری از استفاده از ابزارهای تولید تصویر مبتنی بر هوش مصنوعی برای ایجاد اطلاعات نادرست سیاسی اجرا کرده‌اند، اگرچه محققان دریافته‌اند که کاربران گاهی اوقات راه‌هایی برای دور زدن قوانین پیدا می‌کنند.

چندین شرکت مانند OpenAI، Meta و مایکروسافت از فناوری یا برچسب‌ها برای کمک به بینندگان استفاده می‌کنند تا بدانند کدام تصاویر توسط هوش مصنوعی آنها تولید شده است.

شبکه‌های اجتماعی از جمله یوتیوب، تیک تاک، اینستاگرام و فیسبوک نیز محتوای تولید شده توسط هوش مصنوعی را در فید کاربران برچسب‌گذاری می‌کنند و با استفاده از فناوری، خودشان آن را شناسایی می‌کنند یا از کاربران می‌خواهند که زمان انتشار آن را مشخص کنند.

در ۱۶ آگوست، به نظر می‌رسید که هوش مصنوعی محدودیت‌هایی را بر Grok اعمال می‌کند. این ابزار اکنون از تولید تصاویر نامزدهای سیاسی یا شخصیت‌های کارتونی معروف که مرتکب اعمال خشونت‌آمیز می‌شوند، خودداری می‌کند.

منبع: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html