Van gesprekken met chatbots tot controversiële incidenten in Japan.

  Volgens onderzoekers vond het incident plaats in het huis van Shinnosuke Abe in de wijk Shibuya in Tokio. Terwijl zijn twee dochters ruzie maakten, zou de voormalige honkbalster hebben ingegrepen om te voorkomen dat de ruzie verder escaleerde.

De situatie escaleerde echter snel toen de oudste dochter reageerde. In een vlaag van woede greep Abe haar naar verluidt bij de kraag en gooide haar op de grond. Hoewel het meisje niet gewond raakte, leidde het incident tot de tussenkomst van de politie en zijn arrestatie in zijn woning.

Wat vooral de publieke aandacht trok, was niet zozeer de ruzie zelf, maar de manier waarop het incident aan het licht kwam.

De 18-jarige dochter van Yomiuri Giants-hoofdcoach Shinnosuke Abe zei dat ze advies had ingewonnen bij de AI-chatbot ChatGPT voordat ze het incident meldde bij een instantie voor kinderbescherming.

Volgens de brief die later openbaar werd gemaakt, zocht Abe's 18-jarige dochter aanvankelijk geen hulp bij familie, vrienden of de autoriteiten. In plaats daarvan koos ze ervoor om met ChatGPT te chatten en informatie in te winnen over de situatie waarin ze zich bevond.

Volgens het verhaal van het meisje suggereerde de AI-chatbot dat ze anoniem hulp kon zoeken bij kinderhulporganisaties. Ze belde vervolgens een kinderhulporganisatie om advies te vragen.

Na ontvangst van de informatie beoordeelden de experts van het centrum dit als een geval dat dringend aandacht vereiste en namen onmiddellijk contact op met de politie. De autoriteiten arriveerden snel ter plaatse, wat leidde tot de arrestatie van de bekende coach.

Hoewel de uiteindelijke beslissing bij de gebruikers en de autoriteiten ligt, laat dit incident zien dat AI tegenwoordig niet langer alleen een hulpmiddel is voor het opzoeken van informatie of het ondersteunen van werk. Dankzij de mogelijkheid om een ​​natuurlijke dialoog aan te gaan, vrijwel direct te reageren en 24 uur per dag operationeel te zijn, worden chatbots steeds vaker de aangewezen plek voor mensen om advies in te winnen of te delen over persoonlijke problemen, in plaats van vrienden, familie of de autoriteiten.

Wanneer AI een "mentor" wordt voor jongeren.

Volgens een onderzoek van de Consumentencommissie van het Japanse kabinet gebruiken steeds meer tieners door AI gegenereerde content om advies te zoeken over levensvraagstukken.

Isao Echizen, een expert op het gebied van informatiebeveiliging bij het National Institute of Informatics in Japan, stelt dat de reacties van conversationele AI-modellen zoals ChatGPT aanzienlijk kunnen variëren, afhankelijk van hoe gebruikers vragen stellen en hoeveel informatie ze verstrekken.

Volgens hem gaf het AI-systeem in het geval van Shinnosuke Abe's dochter een vrij directe suggestie om contact op te nemen met een kinderpsycholoog. AI kan echter alleen informatie verwerken die door de gebruiker wordt aangeleverd en mist het vermogen om de context volledig te begrijpen, zoals familieleden of mensen die direct getuige waren van de gebeurtenis dat wel kunnen.

De heer Echizen betoogde dat het bespreken van de kwestie met familieleden of personen die bekend waren met de specifieke omstandigheden een meer natuurlijke en gepaste optie zou zijn geweest.

Deze expert erkende ook dat AI-generatie een handig hulpmiddel is en dat de afhankelijkheid van jongeren ervan een begrijpelijke trend is. Hij ontmoedigde echter basisschool- en middelbare scholieren om deze technologie actief te gebruiken vanwege het risico van overmatige afhankelijkheid van machinaal gegenereerde antwoorden.

Volgens hem is een van de grootste risico's dat gebruikers blindelings vertrouwen op wat AI biedt. Nu AI steeds vaker wordt ingezet, van hulp bij leren en het schrijven van essays tot advies over persoonlijke problemen, is het ontwikkelen van het vermogen om zelfstandig te denken en informatie te evalueren belangrijker dan ooit.

Uit een onderzoek van het Japanse kabinet bleek dat meer dan de helft van de ondervraagde tienermeisjes tussen de 10 en 19 jaar aangaf gebruik te hebben gemaakt van door AI gegenereerde content om advies te zoeken over problemen waar ze mee worstelden.

Volgens de heer Echizen wenden veel kinderen zich tot AI omdat ze het moeilijk vinden om hun gevoelens met hun ouders of familieleden te delen. Tegelijkertijd zijn AI-systemen ontworpen om empathie en begrip te creëren, waardoor het voor gebruikers gemakkelijker wordt om vertrouwen op te bouwen.

Hij benadrukte dat het beschermen van kinderen tegen de gevaren van AI-afhankelijkheid niet alleen draait om het beheersen van de technologie, maar ook om het trainen van hun vermogen om onderscheid te maken tussen goed en kwaad, kritisch denken en het aanmoedigen van directe interactie met mensen vanaf jonge leeftijd. "De mensen om hen heen moeten kinderen helpen begrijpen dat AI niet altijd gelijk heeft," zei hij.

De zaak Shinnosuke Abe is daarom meer dan alleen een verhaal over een familieconflict met onbedoelde juridische gevolgen. In bredere zin weerspiegelt het een groeiende realiteit in de moderne samenleving: kunstmatige intelligentie wordt steeds gangbaarder in het dagelijks leven en vormt een integraal onderdeel van hoe mensen informatie en advies zoeken en belangrijke levensbeslissingen nemen.

Kinderadvies- en begeleidingscentra in Japan, opgericht onder de Wet op de Kinderbescherming, hebben als taak meldingen te ontvangen over kinderen onder de 18 jaar, waaronder vermoedelijke gevallen van misbruik.

In april van dit jaar telde Japan 243 van dergelijke centra in het hele land, bemand door professionals zoals maatschappelijk werkers, psychologen, artsen en wijkverpleegkundigen .

Een van de belangrijkste instrumenten van het systeem is de hotline 189, die sinds 2015 in gebruik is. De naam "Ichi-Haya-Ku" betekent "snel" of "onmiddellijk" en moedigt mensen aan om zo snel mogelijk melding te maken van kinderen die risico lopen. Na ontvangst van een oproep achterhaalt de hotline de locatie van de beller en verbindt deze door met het dichtstbijzijnde centrum voor kinderhulpverlening om de ernst van de situatie te beoordelen en passende interventiemaatregelen te bepalen.


    Bron: https://www.qdnd.vn/giao-duc-khoa-hoc/cac-van-de/khi-chatbot-buoc-vao-doi-thuc-1042130