OpenAI aktiverar 18+-läge på ChatGPT: Hur skyddar man minderåriga?

OpenAI kommer att tillåta verifierade användare att få tillgång till vuxeninnehåll från och med december 2025, vilket öppnar upp en ny marknad men innebär en stor utmaning när det gäller skyddet av minderåriga.

Chatbot för vuxna med åldersverifiering och säkerhetsvarningar för barn.

OpenAI:s bekräftelse på att verifierade vuxna användare kommer att få tillgång till vuxeninnehåll på ChatGPT från och med december 2025 ses som en viktig milstolpe för branschen, vilket både ökar marknadstillväxten och sätter en ny standard för att skydda minderåriga.

Vuxna chatbotar – den nya racerbanan för AI.

AI-plattformar har snabbt infört modeller för att tillgodose vuxnas behov, från intima samtal till emotionellt stöd.

Enligt VD:n Sam Altman var ChatGPT tidigare "starkt begränsat" för att undvika psykiska hälsorisker, men detta tillvägagångssätt gjorde modellen "mindre användbar och mindre tilltalande" för många användare. Han sa att OpenAI övergår till principen att "behandla vuxna som vuxna".

Tillägget av ett kontrollerat åtkomstläge för verifierade användare har ytterligare livat upp den redan snabbt växande marknaden för vuxna chatbotar.

Konkurrenslandskapet har blivit ännu tydligare i och med att Elon Musks xAI nyligen har ifrågasatts av internationella medier angående dess förmåga att skapa kändisrelaterat vuxeninnehåll, vilket därmed väckt brådskande krav på nya skyddsstandarder.

"Problemet" med åldersverifiering.

Att öppna upp åtkomst till vuxeninnehåll innebär en stor utmaning: att verifiera användarnas ålder. Verifiering med hjälp av identitetshandlingar erbjuder hög tillförlitlighet men medför risker för integritet och säkerhet för personuppgifter. Samtidigt kräver AI-baserade beteende- eller språkbaserade verifieringsmetoder stora datamängder, sofistikerade modeller och medför fortfarande risken att kringgås av användare.

Utmaningen förstärks ytterligare av egenskaperna hos AI-innehållsgenerering. Chatbotar kan generera ny information i realtid, utöka konversationer på känsliga sätt eller tolka tvetydiga förfrågningar till olämpligt innehåll.

Riskerna ökar dramatiskt när modellen stöder flera medier, såsom bild-, ljud- och videoskapande . All möjlighet att simulera eller syntetisera känsligt innehåll som involverar minderåriga, även i simulerad form, måste absolut förhindras, vilket kräver att utvecklare etablerar kontrollmekanismer från modellens designlagret till innehållsfiltreringslagret.

Ansvarstrycket på AI-företag.

Nyheten om att OpenAI är på väg att aktivera ett läge för vuxeninnehåll har orsakat oro bland många barnskyddsorganisationer. De varnar för att legitimering av vuxeninnehåll med hjälp av AI oavsiktligt kan uppmuntra minderåriga att söka sätt att "överskrida gränsen".

I Vietnam har många föräldrar också uttryckt oro över att en plattform som traditionellt förknippas med lärande, såsom ChatGPT, har introducerat ett läge för vuxna.

Dessa påtryckningar tvingar AI-företag att noggrant implementera principen om "säkerhet genom design": kontrollera träningsdata, övervaka in- och utdata, implementera realtidsfilter och upprätthålla regelbundna revisionsmekanismer.

Transparens i verksamheten, offentliggörande av skyddsåtgärder och acceptans av feedback från allmänheten blir obligatoriska krav för att skapa en säker miljö för vuxna utan att utgöra risker för utsatta användargrupper.

OpenAIs beslut att ge verifierade användare tillgång till vuxeninnehåll är inte bara en kommersiell milstolpe utan också en påminnelse om att teknisk innovation måste åtföljas av ansvarsfulla standarder.

För att AI-ekosystemet ska blomstra hållbart måste företag prioritera säkerhet och upprätthålla en balans mellan innovation och ansvaret att skydda samhället.

SÅNGTRI

Källa: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm