סין משיבה תקיפת רשתות הצ'אטבוטים של בינה מלאכותית.

התקנות החדשות יסייעו לסין להדק את השליטה על צ'אטבוטים מבוססי בינה מלאכותית, במטרה למנוע תוכן הקשור להתאבדות, הימורים ופורנוגרפיה.

לצ'אטבוטים מבוססי בינה מלאכותית יש את היכולת לתמרן את רגשות המשתמשים. צילום: AFP .

סין מתכננת להחמיר את הפיקוח על צ'אטבוטים מבוססי בינה מלאכותית המסוגלים להשפיע על רגשות אנושיים, במיוחד כאלה המכילים תוכן המקדם התאבדות, פגיעה עצמית או התנהגויות מזיקות אחרות. צעד זה מתואר בטיוטת תקנות חדשות שפרסמה מינהל הסייברספייס של סין ב-27 בדצמבר.

לפי תרגום המסמך של CNBC , הטיוטה מכוונת ל"שירותי בינה מלאכותית אינטראקטיביים דמויי אדם", כלומר מערכות בינה מלאכותית המסוגלות לחקות אישיות, התנהגות ותקשורת אנושית באמצעות טקסט, תמונות, אודיו או וידאו . תקנות אלה יחולו על כל מוצרי ושירותי הבינה המלאכותית המוצעים לציבור בסין לאחר סיום גיבושן. תקופת ההערות הציבוריות תימשך עד ה-25 בינואר.

וינסטון מא, פרופסור אורח בבית הספר למשפטים של אוניברסיטת ניו יורק (NYU), מאמין שזה יכול להיות הניסיון הראשון בעולם ליצור מסגרת משפטית ספציפית למערכות בינה מלאכותית בעלות מאפיינים "דמויי אדם". הוא מציין כי הצעה זו מגיעה כאשר חברות סיניות מאיצות את פיתוחן של עוזרים וירטואליים מבוססי בינה מלאכותית.

בהשוואה לתקנות הבינה המלאכותית של סין שפורסמו בשנת 2023, מר מא מאמין שהטיוטה החדשה מראה שינוי במוקד מ"בטיחות תוכן" ל"בטיחות רגשית", המשקף דאגה גוברת לגבי ההשפעה הפסיכולוגית של בינה מלאכותית על משתמשים.

טיוטת התקנות קובעת כי אסור לצ'אטבוטים מבוססי בינה מלאכותית ליצור תוכן שמעודד התאבדות, פגיעה עצמית או אלימות מילולית, וגם לא כל צורה של מניפולציה רגשית הפוגעת בבריאות הנפש. במקרים בהם משתמש מביע כוונות אובדניות, ספק שירותי הטכנולוגיה חייב לבקש ממישהו לקחת על עצמו את השיחה וליצור קשר מיידי עם האפוטרופוס או האדם המיועד לכך של המשתמש.

יתר על כן, צ'אטבוטים המבוססים על בינה מלאכותית אינם מורשים ליצור תוכן הקשור להימורים, פורנוגרפיה או אלימות. קטינים מורשים להשתמש בבינה מלאכותית לתמיכה רגשית רק בהסכמת אפוטרופוס ועליהם לעמוד במגבלות זמן.

סין מחמירה את הרגולציות על צ'אטבוטים מבוססי בינה מלאכותית. צילום: בלומברג .

ההצעה הוכרזה זמן קצר לאחר ששתי חברות סטארט-אפ סיניות גדולות בתחום צ'אטבוטים בתחום הבינה המלאכותית, Z.ai ו-Minimax, הגישו בקשה להנפקה ראשונית לציבור (IPO) בהונג קונג בדצמבר.

מינימקס ידועה באפליקציית Talkie AI שלה ובגרסה המקומית שלה, Xingye, שהיוותה יותר משליש מהכנסות החברה בשלושת הרבעונים הראשונים של השנה, עם ממוצע של מעל 20 מיליון משתמשים פעילים חודשיים. בינתיים, Z.ai (Zhipu) הצהירה כי הטכנולוגיה שלה נפרסה בכ-80 מיליון מכשירים, אם כי לא חשפה מספרים ספציפיים של משתמשים פעילים.

בהקשר עולמי, השפעת הבינה המלאכותית על בריאות הנפש האנושית זוכה לתשומת לב גוברת, ככל שמדינות וחברות טכנולוגיה רבות מתחילות להתעמת עם הסיכונים החברתיים שמציבה טכנולוגיה זו.

מקור: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html