OpenAI aktiverer 18+-modus på ChatGPT: Hvordan beskytte mindreårige?

OpenAI vil gi verifiserte brukere tilgang til voksent innhold fra desember 2025, noe som åpner opp et nytt marked, men som utgjør en stor utfordring når det gjelder beskyttelse av mindreårige.

Voksen chatbot med aldersbekreftelse og sikkerhetsvarsler for barn.

OpenAIs bekreftelse på at de vil tillate verifiserte voksne brukere å få tilgang til voksent innhold på ChatGPT fra desember 2025, blir sett på som en betydelig milepæl for bransjen, både for å øke markedsveksten og sette en ny standard for å beskytte mindreårige.

Voksne chatboter – den nye racerbanen for AI.

AI-plattformer har raskt tatt i bruk modeller for å betjene voksnes behov, fra intime samtaler til emosjonell støtte.

Ifølge administrerende direktør Sam Altman var ChatGPT tidligere «sterkt begrenset» for å unngå psykiske helserisikoer, men denne tilnærmingen gjorde modellen «mindre nyttig og mindre attraktiv» for mange brukere. Han sa at OpenAI er i ferd med å gå over til prinsippet om å «behandle voksne som voksne».

Tillegget av en kontrollert tilgangsmodus for verifiserte brukere har ytterligere gitt liv til det allerede raskt voksende markedet for voksne chatboter.

Konkurranselandskapet har blitt enda tydeligere ettersom Elon Musks xAI nylig har blitt stilt spørsmål ved av internasjonale medier angående dens evne til å lage kjendisrelatert vokseninnhold, noe som har reist presserende krav om nye beskyttelsesstandarder.

"Problemet" med aldersbekreftelse.

Å åpne tilgang til innhold for voksne byr på en stor utfordring: å bekrefte brukerens alder. Verifisering ved bruk av identifikasjonsdokumenter gir høy pålitelighet, men medfører risikoer for personvern og sikkerhet for personopplysninger. Samtidig krever AI-baserte atferds- eller språkbaserte verifiseringsmetoder store datasett og sofistikerte modeller, og de medfører fortsatt risiko for å bli omgått av brukere.

Utfordringen forsterkes ytterligere av egenskapene til innholdsgenerering basert på kunstig intelligens. Chatboter kan generere ny informasjon i sanntid, utvide samtaler på sensitive måter eller tolke tvetydige forespørsler til upassende innhold.

Risikoen øker dramatisk når modellen støtter flere medier, som bilde-, lyd- og videoproduksjon . Enhver mulighet til å simulere eller syntetisere sensitivt innhold som involverer mindreårige, selv i simulert form, må absolutt forhindres, noe som krever at utviklere etablerer kontrollmekanismer fra modelldesignlaget til innholdsfiltreringslaget.

Ansvarspresset på AI-bedrifter.

Nyheten om at OpenAI er i ferd med å aktivere en modus for voksent innhold har skapt bekymring blant mange barnevernorganisasjoner. De advarer om at legitimering av voksent innhold ved hjelp av AI utilsiktet kan oppmuntre mindreårige til å søke måter å «krysse grensen» på.

I Vietnam har mange foreldre også uttrykt bekymring for at en plattform som tradisjonelt er forbundet med læring, som ChatGPT, har introdusert en modus for voksne.

Dette presset tvinger AI-selskaper til å implementere prinsippet om «sikkerhet gjennom design» grundig: kontrollere treningsdata, overvåke input og output, implementere sanntidsfiltre og opprettholde regelmessige revisjonsmekanismer.

Åpenhet i driften, offentliggjøring av beskyttelsestiltak og aksept av tilbakemeldinger fra lokalsamfunnet er i ferd med å bli obligatoriske krav for å skape et trygt miljø for voksne uten å utgjøre en risiko for sårbare brukergrupper.

OpenAIs beslutning om å gi verifiserte brukere tilgang til vokseninnhold er ikke bare en kommersiell milepæl, men også en påminnelse om at teknologisk innovasjon må ledsages av ansvarlige standarder.

For at AI-økosystemet skal trives bærekraftig, må bedrifter prioritere sikkerhet og opprettholde en balanse mellom innovasjon og ansvaret for å beskytte samfunnet.

SANGTRI

Kilde: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm