Barn riskerar att bli AI-offer när föräldrar lägger upp foton online

Explosionen av information och kontakter på sociala nätverk i synnerhet och internet i allmänhet har gjort att många människor har för vana att dela alla sina känslor och händelser i sina privatliv på internet utan att förutse farorna med att göra det. Många vuxna publicerar inte bara bilder och videor av sig själva online, utan ger sig också rätten att publicera innehåll som innehåller barns ansikten eller röster utan tillstånd. När dessa bilder och videor väl dyker upp online kan alla som har tillgång till dem använda dem utan några begränsningar.

I juli förra året släppte det tyska nätverket Deutsche Telekom en låtsasreklam som visade hur bilder på små barn kan utnyttjas online med hjälp av AI (artificiell intelligens) för olika ändamål. Klippet, med titeln "Ett meddelande från Ella" , använder AI och Deepfake för att skapa en vuxenversion av bilder och videor på unga Ella som publicerats online av hennes föräldrar.

"Vuxen Ella" skapad av AI från bilder på sociala medier av 9-åriga Ella i Deutsche Telekoms varningsvideo

"AI Ella" kan röra sig och prata som en riktig människa, vilket chockerade hennes föräldrar när de såg sin dotter på bioduken. Hon kan till och med gråta och uttrycka sig precis som en människa.

"Jag vet att för er är de här fotona minnen. Men för andra är de data. Och för mig kan de vara början på en fruktansvärd, fruktansvärd framtid där min identitet kan bli stulen, jag kan hamna i fängelse för saker jag inte gjorde... Det ni delar online är digitala milstolpar som kommer att följa mig resten av mitt liv", delade AI-karaktären Ella.

Med bara ett delat foto kan AI skapa en vuxen version av en 9-årig flicka. Deepfake extraherar röster från videor och förvandlar dem till vuxna röster. Bilder och videor kan vara helt förfalskade, personliga identifieringsuppgifter blir värdefull information som stulits för olagliga ändamål. Inte nog med det, skurkar kan använda bilder som samlats in online för att klippa och klistra in, använda AI för att skapa barnpornografi eller en serie foton som hånar, förtalar och förvränger sanningen...

”Nyligen genomförda studier visar att en genomsnittlig femåring har runt 1 500 foton publicerade online utan sitt samtycke, publicerade av ingen mindre än den person de litar mest på: sin mamma eller pappa”, säger Christian Loefert, kommunikations- och marknadschef på Deutsche Telekom.

Enligt The New Yorker uppskattar experter att två tredjedelar av identitetsstölder kommer att orsakas av okontrollerad fotodelning på sociala medier år 2030. Deutsche Telekom citerade också en rapport som visar att mer än 75 % av föräldrarna nu delar data om sina barn på sociala medier. Samtidigt har åtta av tio föräldrar medlemmar på sociala medier som följer deras konton utan att någonsin träffa dem i verkligheten.

På senare tid har utvecklingen av AI-verktyg blivit mer och mer "populära" och når vanliga användare genom en rad applikationer på mobila enheter. Istället för att vara försiktiga med dessa program, tillhandahåller många slarvigt personliga eller familjefoton för att publicera på sociala nätverk. Denna handling ger oavsiktligt AI en stor mängd gratis data för att lära sig om människor, från ansiktsstruktur till omgivningen.

Många säkerhetsexperter varnar för att användare i alla situationer, även med nya trender, fortfarande bör vara försiktiga och inte byta personuppgifter, särskilt sina egna ansiktsuppgifter och deras nära och kära, för några minuters skoj på sociala nätverk.

Källänk: https://thanhnien.vn/rui-ro-tre-em-thanh-nan-nhan-cua-ai-khi-cha-me-dang-hinh-len-mang-185230911090311966.htm