Amerikansk politi advarer om at AI gjør hjemløse til en vits

Mange brukere bruker AI til å lage bilder av hjemløse som dukker opp i hjemmene sine for å gjøre narr av foreldrene sine.

AI-teknologi innleder en enestående æra av kreativitet, der folk kan lage bilder, stemmer og digitalt innhold med bare noen få klikk. Denne bekvemmeligheten kommer imidlertid også med alvorlige risikoer, spesielt når AI brukes som et verktøy for å lage farlige rampestreker.

Tilsynelatende harmløse situasjoner blir drivstoff for sosiale, juridiske og psykologiske kriser.

AI forvandler hjemløse til virtuelle figurer i TikTok-spøk – grensen mellom underholdning og fornærmelse viskes ut. (Kilde: The Verge)

TikTok og «AI-hjemløse»-vitsen

I USA skaper en TikTok-trend alarm hos politiet: Brukere bruker Snapchats kunstige intelligens til å lage bilder av hjemløse menn som dukker opp i hjem, og filmer deretter foreldrenes paniske reaksjoner. Noen foreldre har ringt politiet, noe som har ført til en nødrespons som ser ut som et ekte innbrudd.

Salem, Massachusetts politidepartement advarer om at denne oppførselen kan føre til tiltak fra SWAT.

Byrået oppsummerte det best i en uttalelse: «Denne spøken ydmyker de hjemløse, forårsaker panikk blant innringere og sløser med politiets ressurser. Betjentene som ble tilkalt for å svare var ikke klar over spøken og behandlet samtalen som et reelt innbrudd på gang, noe som skapte en potensielt farlig situasjon.»

AI-spøk sprer seg over hele verden, ikke bare i USA. I India forårsaket en Deepfake-video under valget i 2024 offentlig forvirring da en politiker ble anklaget for å komme med kontroversielle uttalelser – utelukkende generert av AI.

Over hele verden har aprilsnarr blitt en «AI-lekeplass» med en rekke falske kjendisbilder og falske meldinger fra slektninger, som forårsaker psykiske traumer og forstyrrer nødetatene.

«Utviklingen av AI-teknologi innebærer risiko for å bli utnyttet til kriminelle formål eller forårsake sosial panikk», advarer Lewis Griffin, en forsker ved University College London.

Flomscene ved Gyeongbokgung-palasset laget av AI. (Foto klippet fra video , kilde: Youtube).

Utdanning og kontroll

For å forhindre misbruk av AI er det viktig å lære opp brukere, spesielt unge mennesker, om teknologietikk. AI er ikke et leketøy, og bruk av den til å lage falskt innhold bør sees på som potensielt skadelig atferd.

Plattformer som TikTok og Snapchat må implementere sterkere AI-innholdsfiltre, sammen med tydelige advarsler når brukere lager falske bilder eller lyder. Dette vil ikke bare beskytte brukerne, men også redusere risikoen for å forårsake panikk i fellesskapet.

Ifølge en undersøkelse fra Pew Research er ekspertene mer optimistiske, selv om publikum fortsatt har mange bekymringer rundt AI. Begge gruppene er imidlertid enige om at det er behov for klare regler for å forhindre misbruk. Å bygge et juridisk rammeverk og en prosess for å kontrollere AI er ikke bare myndighetenes ansvar, men også hele samfunnets forpliktelse.

AI kan skape fantastiske verdener, men hvis den ikke kontrolleres, kan den lett bli et verktøy for forvirring og kognitiv forvrengning. (Kilde: loveonly.ai/Instagram)

I tillegg må myndighetene samarbeide tett med teknologiselskaper for å utvikle passende responsprosedyrer. Når en AI-spøk fører til et nødanrop, kan ikke sløsing med ressurser og risikoen for overreaksjon overses.

Herr Quang

Kilde: https://vtcnews.vn/ai-bien-nguoi-vo-gia-cu-thanh-tro-dua-canh-sat-my-canh-bao-ar970842.html