AI maakt van daklozen een grap, waarschuwt de Amerikaanse politie

AI-technologie luidt een ongekend tijdperk van creativiteit in, waarin mensen met slechts een paar klikken afbeeldingen, stemmen en digitale content kunnen creëren. Dit gemak brengt echter ook ernstige risico's met zich mee, vooral wanneer AI wordt gebruikt als hulpmiddel voor gevaarlijke grappen.

Schijnbaar onschuldige situaties worden de brandstof voor sociale, juridische en psychologische crises.

AI verandert daklozen in virtuele personages in TikTok-grap – de grens tussen entertainment en belediging vervaagt. (Bron: The Verge)

TikTok en de grap over ‘AI-daklozen’

In de VS zorgt een TikTok-trend voor ophef bij de politie: gebruikers gebruiken de AI van Snapchat om beelden te maken van dakloze mannen die in huizen verschijnen en vervolgens de paniekerige reacties van hun ouders te filmen. Sommige ouders hebben de politie gebeld, wat leidde tot een noodoproep die op een echte inbraak leek.

De politie van Salem, Massachusetts waarschuwt dat dergelijk gedrag kan leiden tot een SWAT-actie.

Het agentschap vatte het het beste samen in een verklaring: "Deze grap vernedert daklozen, veroorzaakt paniek onder bellers en verspilt politiemiddelen. De agenten die moesten komen, waren zich niet bewust van de grap en beschouwden de melding als een echte inbraak, waardoor een potentieel gevaarlijke situatie ontstond."

AI-grappen verspreiden zich over de hele wereld, niet alleen in de VS. In India zorgde een deepfakevideo tijdens de verkiezingen van 2024 voor publieke verwarring toen een politicus werd beschuldigd van controversiële uitspraken – volledig gegenereerd door AI.

Over de hele wereld is 1 april uitgegroeid tot een 'AI-speeltuin' met een reeks nepfoto's van beroemdheden en nepberichten van familieleden, die psychologisch trauma veroorzaken en de hulpdiensten verstoren.

"De ontwikkeling van AI-technologie brengt het risico met zich mee dat we worden uitgebuit voor criminele doeleinden of dat we maatschappelijke paniek veroorzaken", waarschuwt Lewis Griffin, onderzoeker aan het University College London.

Door AI gecreëerde overstromingsscène bij het Gyeongbokgung Paleis. (Foto geknipt uit video, bron: Youtube). — Door AI gecreëerde overstromingsscène bij het Gyeongbokgung Paleis. (Foto geknipt uit Video , bron: Youtube).

Onderwijs en controle

Om misbruik van AI te voorkomen, is het essentieel om gebruikers, met name jongeren, te informeren over de ethiek van technologie. AI is geen speelgoed en het gebruik ervan om nepcontent te creëren moet worden beschouwd als potentieel schadelijk gedrag.

Platforms zoals TikTok en Snapchat moeten sterkere AI-contentfilters implementeren, samen met duidelijke waarschuwingen wanneer gebruikers neppe afbeeldingen of geluiden creëren. Dit beschermt niet alleen gebruikers, maar verkleint ook het risico op paniek binnen de community.

Volgens een onderzoek van Pew Research zijn experts optimistischer, hoewel het publiek nog steeds veel zorgen heeft over AI. Beide groepen zijn het er echter over eens dat duidelijke regelgeving nodig is om misbruik te voorkomen. Het ontwikkelen van een juridisch kader en een proces om AI te beheersen is niet alleen de verantwoordelijkheid van de overheid, maar ook van de hele samenleving.

AI kan fantasiewerelden creëren, maar als er geen controle op wordt uitgeoefend, kan het gemakkelijk een instrument voor verwarring en cognitieve vervorming worden. (Bron: loveonly.ai/Instagram)

Bovendien moeten autoriteiten nauw samenwerken met technologiebedrijven om passende responsprocedures te ontwikkelen. Wanneer een AI-grap leidt tot een noodoproep, mogen de verspilling van middelen en het risico op een overreactie niet worden genegeerd.

Meneer Quang

Bron: https://vtcnews.vn/ai-bien-nguoi-vo-gia-cu-thanh-tro-dua-canh-sat-my-canh-bao-ar970842.html