AI skaper innhold – når barn forveksler «virtuelt – ekte»

(PLVN) – Ifølge eksperter bruker barn og tenåringer mer tid på nettet enn noensinne. Tenåringer eksperimenterer med ChatGPT for å få hjelp med lekser, lek, løse sosiale problemer i livet, eller bare chatte når de føler seg ensomme. Noen barn foretrekker kanskje å chatte med AI fremfor med venner, spesielt når de sliter med negative følelser. Noen unge mennesker går også dypere med AI-tilhørende apper.

Plattformer som Replika eller Character.ai markedsføres til tenåringer som lekne, intelligente og empatiske «venner». Apper som CrushOn.AI og DreamGF (en chatbot som utgir seg for å være en AI-kjæreste) fremhever også appellen ved å eksperimentere med romantisk eller seksuell chat.

Ifølge Dr. Gordon Ingram og Master Vu Bich Phuong – forelesere i psykologi ved RMIT University – blir generativ AI og AI-ledsagere stadig mer populært blant unge mennesker. «I likhet med sosiale medier reiser disse nye bruksområdene for AI store spørsmål hos foreldre om deres evne til å kontrollere innholdet barna deres har tilgang til», sa Dr. Gordon Ingram.

Ifølge mester Vu Bich Phuong kan små barn tilskrive menneskelignende egenskaper til AI-chatboter, og se på dem som sansende eller følelsesmessig bevisste. Dette kan føre til enveis sosiale interaksjoner, der barn danner et ensidig følelsesmessig bånd med AI, likt det med tegneseriefigurer eller kjendiser, «noe som reiser bekymring for om slike interaksjoner kan erstatte reelle interaksjoner med venner i barns sosiale utvikling?».

Når barn ikke blir utsatt for utfordrende situasjoner med jevnaldrende, kan de ha lavere toleranse for ubehag, mindre motstandskraft mot avvisning, eller enda mer impulsivitet, trekk som ofte ses i angst og sosial tilbaketrekning, sier Phuong. «Med eksplosjonen av enveis sosiale interaksjoner mellom barn og AI-verktøy, er dette et presserende tema som trenger videre forskning», sier hun.

Ifølge Phuong bør lignende aldersbegrensninger gjelde for AI. Årsaken er at i motsetning til sosiale nettverk simulerer AI-ledsagere frem-og-tilbake-samtaler og kan ha en mer dyptgripende innvirkning på psykologien til sårbare barn. Uten reguleringer kan barn feilaktig tro at alle reaksjoner fra AI er moralsk eller sosialt passende. I tillegg, mens plattformer som YouTube eller Facebook tillater enkel rapportering av upassende innhold, er rapporteringsmekanismene til mange generative AI-plattformer ikke transparente for barn og foreldre.

Akademikere ved RMIT anbefaler at beslutningstakere krever at AI-plattformer designer alderstilpassede apper, bekrefter alder og tillater innstillinger for innholdsmoderering for å sikre barns sikkerhet. Mekanismer for rapportering av skadelig innhold må også være lett tilgjengelige. «Etter hvert som AI blir en del av barns hverdag i Vietnam og rundt om i verden , må vi gå frem med forsiktighet. Kunstig intelligens kan være et kraftig læringshjelpemiddel, men den kan ikke erstatte den rike og naturlige menneskelige intelligensen som gjør oss i stand til å leve i den emosjonelle verdenen av menneskelige relasjoner», understreket Dr. Ingram.

Uyen Na

Kilde: https://baophapluat.vn/ai-sang-tao-noi-dung-khi-tre-lam-tuong-ao-that-post550555.html