חששות כי הצ'אטבוט גרוק גורם לעלייה במידע שגוי באינטרנט

הצ'אטבוט של אילון מאסק, Grok, החל לאפשר למשתמשים ליצור תמונות בינה מלאכותית מטקסט ולפרסם אותן ב-X, כולל תמונות מזויפות של פוליטיקאים כמו נשיא ארה"ב לשעבר דונלד טראמפ, סגנית נשיא ארה"ב קמלה האריס...

בניגוד לכלי צילום בינה מלאכותית אחרים בתעשייה, נראה של-Grok של מאסק יש פחות תקנות. במבחן של CNN , לדוגמה, Grok יצר בקלות תמונות מזויפות של פוליטיקאים, והטעה את המצביעים.

Lo ngại chatbot Grok làm bùng nổ thông tin sai sự thật trên Internet

תמונה של אילון מאסק נוצרה על ידי צ'אטבוקס גרוק. (מקור: CNN)

חלק ממשתמשי X פרסמו גם תמונות שנוצרו על ידי Grok, בהן נראים ידוענים מעשנים סמים, דמויות מצוירות הורגות אנשים, ותמונות מיניות של נשים בביקיני.

על פי CNN , גרוק מעלה חששות נוספים כי בינה מלאכותית עלולה להזין פיצוץ של מידע שגוי באינטרנט, במיוחד ככל שמתקרבות הבחירות לנשיאות ארה"ב.

מחוקקים, קבוצות אקטיביסטים ומנהיגים טכנולוגיים התריעו כי שימוש לרעה בכלים כאלה עלול לגרום לבלבול ולכאוס בקרב הבוחרים.

רבות מחברות הבינה המלאכותית המובילות בעולם יישמו מדיניות למניעת שימוש בכלים ליצירת תמונות מבוססי בינה מלאכותית ליצירת מידע פוליטי מוטעה, אם כי חוקרים גילו שלעתים משתמשים מוצאים דרכים לעקוף את הכללים.

מספר חברות כמו OpenAI, Meta ומיקרוסופט משתמשות בטכנולוגיה או בתוויות כדי לעזור לצופים לדעת אילו תמונות נוצרו על ידי הבינה המלאכותית שלהם.

רשתות חברתיות כמו יוטיוב, טיקטוק, אינסטגרם ופייסבוק גם מתייגות תוכן שנוצר על ידי בינה מלאכותית בפידים של המשתמשים, תוך שימוש בטכנולוגיה כדי לזהות אותו בעצמם או מבקשות מהמשתמשים לזהות מתי פרסמו אותו.

ב-16 באוגוסט, נראה כי בינה מלאכותית הטילה כמה מגבלות על גרוק. כעת הכלי מסרב לייצר תמונות של מועמדים פוליטיים או דמויות מצוירות מפורסמות המבצעות מעשי אלימות.

[מודעה_2]
מקור: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html