Barn i faresonen for å bli ofre for AI når foreldre legger ut bilder på nettet

[annonse_1]

Eksplosjonen av informasjon og forbindelser på sosiale nettverk spesielt og internett generelt har ført til at mange har for vane å dele alle sine følelser og hendelser i privatlivet på internett uten å forutse farene ved å gjøre det. Ikke bare legger de ut bilder og videoer av seg selv på nettet, mange voksne gir seg selv også retten til å legge ut innhold som inneholder ansikter eller stemmer til barn uten tillatelse. Når disse bildene og videoene dukker opp på nettet, kan alle som har tilgang bruke dem uten noen begrensninger.

I juli i fjor publiserte det tyske nettverket Deutsche Telekom en simulert reklame som viste hvordan bilder av små barn kan misbrukes på nett, ved hjelp av kunstig intelligens (KI) til ulike formål. Klippet, med tittelen «En melding fra Ella» , bruker KI og Deepfake for å lage en voksenversjon av bilder og videoer av unge Ella som foreldrene hennes har lagt ut på nett.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — «Voksen Ella» laget av AI fra bilder på sosiale medier av 9 år gamle Ella i Deutsche Telekoms advarselsvideo

«AI Ella» kan bevege seg og snakke som et ekte menneske, noe som sjokkerte foreldrene hennes da de så datteren sin på storskjermen. Hun kan til og med gråte og uttrykke seg akkurat som et menneske.

«Jeg vet at for deg er disse bildene minner. Men for andre er de data. Og for meg kan de være begynnelsen på en forferdelig, forferdelig fremtid der identiteten min kan bli stjålet, jeg kan ende opp i fengsel for ting jeg ikke gjorde ... Det du deler på nettet er digitale milepæler som vil følge meg resten av livet», delte AI-karakteren Ella.

Med bare ett delt bilde kan AI lage en voksen versjon av en ni år gammel jente. Deepfake trekker ut stemmer fra videoer og gjør dem om til voksne stemmer. Bilder og videoer kan forfalskes fullstendig, personlige identifikasjonsdata blir verdifull informasjon stjålet for ulovlige formål. Skurkene kan ikke stoppe der, de kan bruke bilder samlet på nettet til å klippe og lime inn, bruke AI til å lage barnepornografi eller en serie bilder som håner, ærekrenker og forvrenger sannheten ...

«Nyere studier viser at en gjennomsnittlig femåring har rundt 1500 bilder lagt ut på nettet uten sitt samtykke, lagt ut av ingen ringere enn den personen de stoler mest på: moren eller faren sin», sa Christian Loefert, kommunikasjons- og markedsføringssjef i Deutsche Telekom.

Ifølge The New Yorker anslår eksperter at innen 2030 vil to tredjedeler av identitetstyveri være forårsaket av ukontrollert fotodeling på sosiale medier. Deutsche Telekom viste også til en rapport som viser at mer enn 75 % av foreldre nå deler data om barna sine på sosiale medier. Samtidig har åtte av ti foreldre medlemmer på sosiale medier som følger kontoene deres uten å noen gang ha møtt dem i virkeligheten.

I den senere tid har utviklingen av AI-verktøy blitt mer og mer «populært», og nådd vanlige brukere gjennom en rekke applikasjoner på mobile enheter. I stedet for å være forsiktige med disse programmene, tilbyr mange uforsiktig personlige bilder eller familiebilder for å legge dem ut på sosiale nettverk. Denne handlingen gir utilsiktet AI en stor mengde gratis data for å lære om mennesker, fra ansiktsstruktur til omgivelsene.

Mange sikkerhetseksperter advarer om at brukere i alle situasjoner, selv med nye trender, fortsatt bør være forsiktige og ikke bytte personopplysninger, spesielt sine egne ansiktsopplysninger og ansiktsopplysninger til sine kjære, for noen minutter med moro på sosiale nettverk.

[annonse_2]
Kildekobling