צ'אטבוטים מבוססי בינה מלאכותית מהווים סיכונים לילדים, מה שמוביל לקריאות לתקנות המסדירות את פעילותם של מפתחים.

[מודעה_1]

ראש ממשלת יפן, פומיו קישידה, אמר כי יציע תוכנית לקבוצת ה-G7 לפקח על מפתחי בינה מלאכותית (AI).

מטרת הכללים הללו היא למנוע את הפצת המידע השגוי על ידי העלאת מודעות הציבור להבחנה בין תמונות ומידע המופקים על ידי בינה מלאכותית לבין מידע שלא נוצר על ידי אלגוריתמים.

ההנחיות המוצעות צפויות להיות מוגשות כבר בסתיו הקרוב, בכינוס וירטואלי של שבע הכלכלות הגדולות בעולם (G7).

חברת Snap Inc. מואשמת בכך שלא העריכה כראוי ומדויקת את סיכוני פרטיות המידע לילדים בעת השקת הצ'אטבוט הבינה המלאכותית שלה.

הדו"ח קבע כי יפן מודאגת מהתמונות והמידע המורכבים שנוצרים על ידי בינה מלאכותית, אשר עלולים להטעות את הציבור ולאיים על היציבות הכלכלית.

בינתיים, גוף הפיקוח על נתונים בבריטניה הצהיר כי צ'אטבוטים של בינה מלאכותית עלולים להוות סיכוני פרטיות לילדים, במקרה זה, הצ'אטבוט "My AI" שפותח על ידי חברת הטכנולוגיה האמריקאית סנאפצ'ט.

הרשויות טוענות כי ייתכן שסנאפצ'ט לא העריכה נכון את הסיכונים לפרטיות לילדים שמציב הצ'אטבוט מבוסס הבינה המלאכותית שהשיקה באפריל האחרון. משרד נציב המידע (ICO) הצהיר כי אם החברה האמריקאית לא תוכל לטפל כראוי בחששות הרגולטורים, הם ישקלו לאסור את אפליקציית הבינה המלאכותית ברחבי המדינה.

"ממצאים ראשוניים מהחקירה מצביעים על כך שסנאפ לא העריכה בצורה הולמת ומדויקת את סיכוני הפרטיות לילדים ולמשתמשים אחרים לפני שהשיקה את אפליקציית הבינה המלאכותית", אמר נציג של ICO.

עם זאת, הצהרת הגוף המפקח אינה אומרת שסנאפצ'ט, אפליקציית המסרים הנמצאת בשימוש נרחב על ידי צעירים בבריטניה, הפרה את חוקי הגנת המידע.

סנאפ מסרה כי היא בוחנת את הודעת ה-ICO ומחויבת להגן על פרטיות המשתמשים. "הבינה המלאכותית שלנו עברה תהליך קפדני של בדיקה משפטית ופרטיות לפני שפורסמה", מסרה חברת הטכנולוגיה האמריקאית. "נמשיך לעבוד בצורה קונסטרוקטיבית עם ה-ICO כדי לטפל בחששות בנוגע לתהליכי הערכת הסיכונים שלנו".

ה-ICO חוקרת כיצד "My AI" טיפלה במידע האישי של כ-21 מיליון משתמשי סנאפצ'ט בבריטניה, כולל ילדים בגילאי 13-17.

האפליקציה, שפותחה על ידי סנאפצ'ט, מופעלת על ידי ChatGPT של OpenAI - הדוגמה הידועה ביותר לבינה מלאכותית גנרית שקובעי מדיניות ברחבי העולם מבקשים לנהל על רקע חששות בנוגע לפרטיות ואבטחה.

רשתות מדיה חברתית, כולל סנאפצ'ט, דורשות ממשתמשים להיות בני 13 ומעלה, אך הן לא תמיד מצליחות למנוע מילדים קטינים להשתמש בפלטפורמות שלהן.

בעבר, באוגוסט 2023, דיווחה רויטרס כי רגולטורים אוספים מידע כדי לקבוע האם אפליקציית המסרים מסירה ביעילות משתמשים קטינים מהפלטפורמה שלה.

(על פי בלומברג, רויטרס)

מטא משתמשת בנתוני משתמשי פייסבוק ואינסטגרם כדי לאמן את הצ'אטבוט הבינה המלאכותית שלה.

מטא טוענת שהיא משתמשת בפוסטים ששותפו בפומבי על ידי משתמשים בפייסבוק ובאינסטגרם כדי לאמן את העוזרת הווירטואלית החדשה שלה בתחום הבינה המלאכותית (AI), אך אינה כוללת תוכן ששותף רק עם משפחה וחברים.