בינה מלאכותית: מלזיה משעה את פעולות הצ'אטבוט של גרוק.

מלזיה השעתה זמנית את הגישה לצ'אטבוט Grok - כלי בינה מלאכותית (AI) שפותח על ידי xAI, חברה השייכת לחברת X Corp. של אילון מאסק - לאחר שגילתה כי הפלטפורמה נוצלה לרעה שוב ושוב ליצירת תמונות פורנוגרפיות ופוגעניות שהפרו זכויות אישיות, במיוחד של נשים וקטינים.

בהודעה שפורסמה ב-11 בינואר, הצהירה ועדת התקשורת והמולטימדיה של מלזיה (MCMC) כי הורתה על הגבלות גישה מיידיות ל-Grok עבור משתמשים ביתיים, בעקבות אזהרות חוזרות ונשנות שלא נענו ונקטו צעדים מתקנים מספקים מצד X Corp. ו-xAI.

על פי הגוף המפקח, Grok – אשר שולבה ישירות ברשת החברתית X – נוצלה ליצירת תמונות פורנוגרפיות, פוגעניות, וולגריות ומניפולטיביות ללא הסכמה, פשוט באמצעות פקודות טקסט רגילות. MCMC הדגישה: "התוכן המפר כלל תמונות של נשים וילדים, למרות מאמצינו החוזרים ונשנים לעבוד עם הספק ולשלוח הודעות רשמיות".

על פי MCMC, אמצעי ההגנה של Grok נחשבו כלא מספקים, שכן הפלטפורמה הסתמכה בעיקר על מנגנוני דיווח עצמי של המשתמשים ולא על בקרת סיכונים משלבי התכנון והתפעול.

הצהרת MCMC הבהירה: "X Corp. לא הצליחה לטפל כראוי בסיכונים הטבועים באופן שבו כלי בינה מלאכותית זה פועל".

מלזיה הצהירה גם כי תשקול להחזיר את הגישה רק לאחר ש-xAI יוכיח כי אמצעי ההגנה החדשים יושמו והוכחו כיעילים.

החלטתה של מלזיה מגיעה על רקע גל של תגובות עולמיות נגד גרוק, לאחר שהתגלה שכלי יצירת התמונות של הצ'אטבוט מאפשר מיניות של תמונות של נשים וילדים, מה שמעלה חששות כבדים לגבי פורנוגרפיה מזויפת (דיפפייקס) שנוצרת על ידי בינה מלאכותית.

לפני שמלזיה פרסמה את ההצהרה הנ"ל, אינדונזיה כבר הפכה למדינה הראשונה שאסרה לחלוטין על גרוק, בעוד שבשווקים רבים אחרים הכלי עובד רק עבור משתמשים משלמים.

על פי גורמים אירופאים וארגוני הסברה טכנולוגיים, העברת תכונת יצירת התמונות למודל בתשלום - מדיניות מסחרית חדשה שהוכרזה על ידי Grok on X ב-9 בינואר - אינה יכולה לפתור את שורש הבעיה.

(וייטנאם/וייטנאם+)

מקור: https://www.vietnamplus.vn/tri-tue-nhan-tao-malaysia-dinh-chi-hoat-dong-chatbot-grok-post1087863.vnp