OpenAI מאפשר מצב 18+ ב-ChatGPT: כיצד להגן על קטינים?

OpenAI תאפשר למשתמשים מאומתים גישה לתוכן למבוגרים בלבד החל מדצמבר 2025, ותפתח שוק חדש אך תציב אתגר משמעותי בכל הנוגע להגנה על קטינים.

צ'אטבוט למבוגרים עם אימות גיל והתראות בטיחות לילדים.

האישור של OpenAI כי היא תאפשר למשתמשים בוגרים מאומתים גישה לתוכן למבוגרים ב-ChatGPT החל מדצמבר 2025 נתפס כאבן דרך משמעותית עבור התעשייה, הן מה שמגביר את צמיחת השוק והן קובע סטנדרט חדש להגנה על קטינים.

צ'אטבוטים למבוגרים - מסלול המרוצים החדש של בינה מלאכותית.

פלטפורמות בינה מלאכותית פרסו במהירות מודלים כדי לשרת את צרכי המבוגרים, החל משיחות אינטימיות ועד תמיכה רגשית.

לדברי המנכ"ל סם אלטמן, ChatGPT היה בעבר "מוגבל מאוד" כדי להימנע מסיכונים לבריאות הנפש, אך גישה זו הפכה את המודל ל"פחות שימושי ופחות מושך" עבור משתמשים רבים. הוא אמר ש-OpenAI עוברת לעקרון של "התייחסות למבוגרים כמבוגרים".

הוספת מצב גישה מבוקרת למשתמשים מאומתים החדירה עוד יותר את שוק הצ'אטבוטים למבוגרים, שכבר גדל במהירות.

הנוף התחרותי התבהר עוד יותר לאחר שטכנולוגיה הבינה המלאכותית ה"xAI" של אילון מאסק טופלה לאחרונה בספק על ידי כלי תקשורת בינלאומיים בנוגע ליכולתה ליצור תוכן למבוגרים הקשור לסלבריטאים, ובכך העלתה דרישות דחופות לתקני הגנה חדשים.

ה"בעיה" של אימות גיל.

פתיחת גישה לתוכן למבוגרים מציבה אתגר מרכזי: אימות גיל המשתמש. אימות באמצעות מסמכי זיהוי מציע אמינות גבוהה אך טומן בחובו סיכונים לפרטיות ולאבטחת מידע אישי. בינתיים, שיטות אימות התנהגותיות או מבוססות שפה מבוססות בינה מלאכותית דורשות מערכי נתונים גדולים, מודלים מתוחכמים, ועדיין נושאות את הסיכון של עקיפה על ידי משתמשים.

האתגר מתעצם עוד יותר בשל מאפייני יצירת תוכן מבוססי בינה מלאכותית. צ'אטבוטים יכולים לייצר מידע חדש בזמן אמת, להרחיב שיחות בדרכים רגישות, או לפרש בקשות מעורפלות לתוכן לא הולם.

הסיכונים עולים באופן דרמטי כאשר המודל תומך במספר מדיה כגון יצירת תמונה, אודיו ווידאו . כל יכולת לדמות או לסנתז תוכן רגיש הכולל קטינים, אפילו בצורה מדומה, חייבת להימנע לחלוטין, מה שמחייב את המפתחים להקים מנגנוני בקרה משכבת ​​עיצוב המודל ועד לשכבת סינון התוכן.

לחץ האחריות על עסקי בינה מלאכותית.

הידיעה ש-OpenAI עומדת להפעיל מצב תוכן למבוגרים עוררה דאגה בקרב ארגונים רבים להגנת ילדים. הם מזהירים כי מתן לגיטימציה לתוכן למבוגרים באמצעות בינה מלאכותית עלול, בשוגג, לעודד קטינים לחפש דרכים "לחצות את הגבול".

בווייטנאם, הורים רבים הביעו גם דאגה מכך שפלטפורמה המקושרת באופן מסורתי ללמידה, כמו ChatGPT, הציגה מצב למידה למבוגרים.

לחצים אלה מאלצים חברות בינה מלאכותית ליישם באופן יסודי את עקרון "בטיחות מכוונת": שליטה בנתוני אימון, ניטור קלט ופלט, פריסת מסננים בזמן אמת ותחזוקה של מנגנוני ביקורת קבועים.

שקיפות בפעילות, גילוי פומבי של אמצעי הגנה וקבלת משוב מהקהילה הופכות לדרישות חובה ליצירת סביבה בטוחה למבוגרים מבלי להוות סיכונים לקבוצות משתמשים פגיעות.

החלטתה של OpenAI לאפשר למשתמשים מאומתים גישה לתוכן למבוגרים בלבד היא לא רק אבן דרך מסחרית, אלא גם תזכורת לכך שחדשנות טכנולוגית חייבת להיות מלווה בסטנדרטים אחראיים.

כדי שהאקוסיסטם של הבינה המלאכותית ישגשג באופן בר-קיימא, עסקים צריכים לתעדף בטיחות, תוך שמירה על איזון בין חדשנות לאחריות להגן על הקהילה.

שיר טרי

מקור: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm