Fra samtaler med chatboter til kontroversielle hendelser i Japan.

  Ifølge etterforskerne skjedde hendelsen hjemme hos Shinnosuke Abe i Shibuya Ward i Tokyo. Mens hans to døtre kranglet, skal den tidligere baseballstjernen ha grepet inn for å hindre dem i å fortsette konflikten.

Situasjonen eskalerte imidlertid raskt da den eldste datteren reagerte. I et sinneutbrudd skal Abe ha grepet henne i kragen og kastet henne i bakken. Selv om jenta ikke ble skadet, førte hendelsen senere til at politiet grep inn og arresterte ham hjemme.

Det som spesielt tiltrakk seg offentlighetens oppmerksomhet var ikke selve bråket, men måten hendelsen ble oppdaget på.

Den 18 år gamle datteren til Yomiuri Giants-hovedtrener Shinnosuke Abe sa at hun søkte råd fra AI-chatboten ChatGPT før hun rapporterte hendelsen til et barnevernbyrå.

Ifølge brevet som senere ble offentliggjort, søkte ikke Abes 18 år gamle datter i utgangspunktet hjelp fra slektninger, venner eller myndigheter. I stedet valgte hun å chatte med ChatGPT for å spørre om situasjonen hun sto overfor.

Ifølge jentas beretning foreslo AI-chatboten at hun kunne søke støtte anonymt fra barnevernsentre. Hun ringte deretter et barnevernsenter for å be om råd.

Da ekspertene ved senteret mottok informasjonen, vurderte de dette som en sak som krevde øyeblikkelig oppmerksomhet og kontaktet umiddelbart politiet. Myndighetene kom raskt til stedet, noe som førte til arrestasjonen av den berømte treneren.

Selv om den endelige avgjørelsen ligger hos brukere og myndigheter, viser denne hendelsen at AI i dag ikke lenger bare er et verktøy for informasjonsinnhenting eller arbeidsstøtte. Med sin evne til å delta i naturlig dialog, gi nesten umiddelbare svar og operere kontinuerlig 24 timer i døgnet, er chatboter gradvis i ferd med å bli det foretrukne stedet for mange når de trenger å dele eller søke råd om personlige problemer, i stedet for venner, familie eller myndigheter.

Når AI blir en «mentor» for unge mennesker.

Ifølge en undersøkelse fra forbrukerkomiteen i Japans kabinettkontor bruker et økende antall tenåringer AI-generert innhold for å søke råd om livsproblemer.

Isao Echizen, en informasjonssikkerhetsekspert ved National Institute of Informatics i Japan, hevder at svarene fra konversasjonsbaserte AI-modeller som ChatGPT kan variere betydelig avhengig av hvordan brukerne stiller spørsmål og mengden informasjon som gis.

Ifølge ham ga AI-systemet et ganske direkte forslag om å kontakte et barnevernsenter i tilfellet med Shinnosuke Abes datter. AI kan imidlertid bare behandle informasjon gitt av brukeren og mangler evnen til å forstå konteksten fullt ut, slik som familiemedlemmer eller de som var direkte vitne til hendelsen.

Herr Echizen argumenterte for at det ville ha vært et mer naturlig og passende alternativ å diskutere saken med familiemedlemmer eller de som er kjent med de spesifikke omstendighetene.

Denne eksperten erkjente også at AI-generering er et praktisk verktøy, og at unges avhengighet av det er en forståelig trend. Han frarådet imidlertid barneskole- og ungdomsskoleelever å aktivt bruke denne teknologien på grunn av risikoen for overdreven avhengighet av maskingenererte svar.

En av de største risikoene, ifølge ham, er at brukere har en tendens til å ha absolutt tillit til det AI tilbyr. Med AI-generering som blir stadig mer utbredt, fra hjelp med læring og essayskriving til rådgivning om personlige spørsmål, er det viktigere enn noensinne å bygge evnen til å tenke selvstendig og evaluere informasjon.

En undersøkelse utført av Japans kabinettkontor avslørte at mer enn halvparten av de spurte jentene i tenårene i alderen 10 til 19 år sa at de hadde brukt AI-generert innhold for å søke råd om problemer de sto overfor.

Ifølge Echizen vender mange barn seg til kunstig intelligens fordi de synes det er vanskelig å dele følelsene sine med foreldre eller slektninger. Samtidig er kunstig intelligens-systemer utformet for å skape empati og forståelse, noe som gjør det enklere for brukere å bygge tillit.

Han understreket at det å beskytte barn mot farene ved KI-avhengighet ikke bare handler om å kontrollere teknologien, men også om å begynne med å trene deres evne til å skille mellom rett og galt, kritisk tenkning og oppmuntre til direkte interaksjon med mennesker fra en tidlig alder. «De rundt dem må hjelpe barn å forstå at KI ikke alltid har rett», sa han.

Shinnosuke Abe-saken er derfor mer enn bare en historie om en familiekonflikt som fører til utilsiktede juridiske konsekvenser. Mer generelt gjenspeiler den en voksende virkelighet i det moderne samfunnet: kunstig intelligens blir stadig mer utbredt i dagliglivet og blir en integrert del av hvordan folk søker informasjon, råd og tar viktige livsbeslutninger.

Barnerådgivnings- og veiledningssentre i Japan, opprettet i henhold til barnevernloven, har i oppgave å motta rapporter om barn under 18 år, inkludert mistenkte tilfeller av overgrep.

Per april i år har Japan 243 slike sentre over hele landet, bemannet av fagfolk, inkludert sosialarbeidere, psykologer, leger og helsearbeidere i lokalsamfunnet.

Et av systemets viktigste verktøy er 189-hjelpelinjen, som har vært i drift siden 2015. Navnet «Ichi-Haya-Ku» betyr «raskt» eller «umiddelbart», og oppfordrer folk til å rapportere tilfeller av barn i faresonen så snart som mulig. Når hjelpelinjen mottar en samtale, identifiserer den innringerens posisjon og kobler dem til nærmeste barnevernsenter for å vurdere alvorlighetsgraden av situasjonen og bestemme passende tiltak.


    Kilde: https://www.qdnd.vn/giao-duc-khoa-hoc/cac-van-de/khi-chatbot-buoc-vao-doi-thuc-1042130