گوگل: از نرم‌افزار هوش مصنوعی Gemini برای تولید محتوای جعلی تروریستی سوءاستفاده می‌شود

گوگل در بیانیه‌ای که به مقامات استرالیایی ارسال کرد، اعلام کرد که طی سال گذشته، ۲۵۸ شکایت در سطح جهان در مورد استفاده از نرم‌افزار هوش مصنوعی (AI) خود، Gemini، برای ایجاد محتوای جعلی تروریستی یا افراط‌گرایی خشونت‌آمیز دریافت کرده است؛ و ۸۶ گزارش کاربر هشدار می‌دهد که از Gemini برای تولید محتوای کودک‌آزاری سوءاستفاده می‌شود.

کمیسیون ایمنی الکترونیکی استرالیا (ESSC) ارزیابی کرد که گزارش گوگل اولین بینش جهانی در مورد چگونگی سوءاستفاده کاربران از فناوری برای ایجاد محتوای مخرب و غیرقانونی را ارائه می‌دهد.

جولی اینمن گرنت، کمیسر کمیسیون امنیت سایبری، اظهار داشت که این موضوع بر اهمیت شرکت‌هایی که محصولات هوش مصنوعی تولید می‌کنند، در ساخت و آزمایش اثربخشی اقدامات حفاظتی برای جلوگیری از تولید محتوای مضر و جعلی تأکید می‌کند.

گوگل از یک ویژگی تطبیق - یک سیستم خودکار که تصاویر تازه آپلود شده را با تصاویر شناخته شده مطابقت می‌دهد - برای شناسایی و حذف محتوای کودک آزاری ایجاد شده توسط Gemini استفاده کرد. با این حال، کمیسیون ایمنی الکترونیکی استرالیا اظهار داشت که گوگل از همان سیستم برای حذف محتوای تروریستی یا افراط گرایی خشونت آمیز ایجاد شده توسط Gemini استفاده نکرده است.

طبق قانون فعلی استرالیا، شرکت‌های فناوری باید به صورت دوره‌ای اطلاعات مربوط به تلاش‌های خود در زمینه کاهش آسیب را در اختیار کمیسیون امنیت الکترونیکی قرار دهند، در غیر این صورت با جریمه مواجه خواهند شد.

اخیراً، شرکت‌ها موظف شدند اطلاعات مربوط به دوره زمانی آوریل ۲۰۲۳ تا فوریه ۲۰۲۴ را به این کمیسیون گزارش دهند. کمیسیون ایمنی الکترونیکی استرالیا، تلگرام و توییتر - که بعداً به X تغییر نام داد - را به دلیل نقص در گزارش‌دهی جریمه کرد.

کانال X قبلاً یک بار به جریمه ۶۱۰۵۰۰ دلار استرالیا (۳۸۲۰۰۰ دلار آمریکا) خود اعتراض کرده است، اما انتظار می‌رود این پلتفرم رسانه اجتماعی دوباره درخواست تجدیدنظر بدهد. تلگرام نیز قصد دارد به جریمه اعمال شده بر این کانال اعتراض کند.

از زمانی که ربات چت «مهیج» ChatGPT از شرکت آمریکایی OpenAI در اواخر سال ۲۰۲۲ توجه عمومی را به خود جلب کرد، سازمان‌های نظارتی در سراسر جهان خواستار اقدامات مؤثرتری شده‌اند تا اطمینان حاصل شود که بازیگران مخرب از هوش مصنوعی برای تحریک تروریسم، ارتکاب کلاهبرداری، ایجاد محتوای مستهجن جعلی و سایر فعالیت‌های سوء استفاده‌آمیز سوءاستفاده نمی‌کنند.

منبع: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html