Kinderen lopen risico slachtoffer te worden van AI als ouders foto's online plaatsen

De explosie aan informatie en connecties op sociale netwerken in het bijzonder en het internet in het algemeen heeft ertoe geleid dat veel mensen de gewoonte hebben ontwikkeld om al hun emoties en gebeurtenissen uit hun privéleven online te delen, zonder zich bewust te zijn van de gevaren die dit met zich meebrengt. Niet alleen plaatsen ze foto's en video's van zichzelf online, veel volwassenen geven zichzelf ook het recht om zonder toestemming content te plaatsen met de gezichten of stemmen van kinderen. Zodra deze foto's en video's online verschijnen, kan iedereen die er toegang toe heeft ze zonder enige beperking gebruiken.

Afgelopen juli bracht het Duitse netwerk Deutsche Telekom een nepadvertentie uit waarin werd getoond hoe afbeeldingen van jonge kinderen online misbruikt kunnen worden, met behulp van AI (kunstmatige intelligentie) voor verschillende doeleinden. De clip, getiteld ' A Message from Ella' , gebruikt AI en deepfake om een volwassen versie te maken van de afbeeldingen en video's van de jonge Ella die haar ouders online hadden geplaatst.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — 'Volwassen Ella' gecreëerd door AI op basis van sociale media-afbeeldingen van de 9-jarige Ella in de waarschuwingsvideo van Deutsche Telekom

"AI Ella" kan bewegen en praten als een echt mens, wat haar ouders choqueerde toen ze hun dochter op het grote scherm van de bioscoop zagen. Ze kan zelfs huilen en zich uiten als een mens.

"Ik weet dat deze foto's voor jou herinneringen zijn. Maar voor anderen zijn het data. En voor mij kunnen ze het begin zijn van een vreselijke, vreselijke toekomst waarin mijn identiteit gestolen kan worden en ik in de gevangenis kan belanden voor dingen die ik niet heb gedaan... Wat je online deelt, zijn digitale mijlpalen die me de rest van mijn leven zullen achtervolgen," deelde AI-personage Ella.

Met slechts één gedeelde foto kan AI een volwassen versie van een 9-jarig meisje creëren. Deepfake extraheert stemmen uit video's en verandert ze in volwassen stemmen. Afbeeldingen en video's kunnen volledig worden vervalst, persoonlijke identificatiegegevens worden waardevolle informatie die voor illegale doeleinden wordt gestolen. En daar blijft het niet bij: criminelen kunnen online verzamelde afbeeldingen gebruiken om te knippen en plakken, AI gebruiken om kinderporno te creëren of een reeks foto's die de waarheid bespotten, belasteren en verdraaien...

"Uit recente onderzoeken blijkt dat er bij een gemiddeld vijfjarig kind zo'n 1.500 foto's online worden geplaatst zonder zijn of haar toestemming. Deze foto's zijn geplaatst door niemand minder dan degene die hij of zij het meest vertrouwt: zijn of haar moeder of vader", aldus Christian Loefert, hoofd Communicatie en Marketing bij Deutsche Telekom.

Volgens The New Yorker schatten experts dat in 2030 tweederde van de identiteitsfraude zal worden veroorzaakt door het ongecontroleerd delen van foto's op sociale media. Deutsche Telekom citeerde ook een rapport waaruit blijkt dat meer dan 75% van de ouders nu gegevens over hun kinderen deelt op sociale media. Ondertussen hebben acht op de tien ouders leden die hun accounts volgen op sociale media zonder hen ooit in het echt te hebben ontmoet.

De ontwikkeling van AI-tools is de laatste tijd steeds populairder geworden en bereikt gewone gebruikers via een reeks applicaties op mobiele apparaten. In plaats van voorzichtig om te gaan met deze programma's, plaatsen veel mensen achteloos persoonlijke of familiefoto's op sociale media. Hierdoor krijgt AI onbedoeld een grote hoeveelheid gratis data om over mensen te leren, van gezichtsstructuur tot de omgeving.

Veel veiligheidsexperts waarschuwen dat gebruikers in alle situaties, zelfs met nieuwe trends, voorzichtig moeten zijn en geen persoonlijke gegevens, met name hun eigen gezichtsgegevens en die van hun dierbaren, moeten ruilen voor een paar minuten plezier op sociale netwerken.

Bronlink