Het risico dat AI persoonlijke afbeeldingen manipuleert

De ontwikkeling van kunstmatige intelligentie (AI) bedreigt niet alleen de banen van kunstenaars over de hele wereld , maar brengt ook het risico met zich mee dat internetgebruikers hun afbeeldingen op allerlei manieren laten manipuleren.

AI-tools creëren gemakkelijk nep-technologieproducten. (Illustratiefoto)

“Het tijdperk van deepfake”

Aan de andere kant kan AI, in de verkeerde handen, gemakkelijk afbeeldingen van socialemedia-accounts van individuen stelen en deze omzetten in ongewenste verwijzingen. Zo kunnen pornografische websites bijvoorbeeld afbeeldingen van individuen zonder hun toestemming gebruiken.

"We leven in het tijdperk van deepfakes", aldus Hadi Salman, onderzoeker aan het Massachusetts Institute of Technology. "Nu kan iedereen afbeeldingen en video's manipuleren om mensen iets te laten 'doen' wat ze niet hebben gedaan."

Deepfake is een combinatie van de woorden ‘deep learning’ en ‘fake’. Het is een methode om met behulp van AI neptechnologieproducten te creëren in de vorm van audio, afbeeldingen of zelfs video’s .

Binnen enkele seconden kan AI met een paar simpele commando's elke afbeelding creëren die de 'slechteriken' maar willen. Zo zou iemand AI kunnen vragen een foto te maken van de paus in een Balenciaga-jas en deze vervolgens online te plaatsen voordat blijkt dat de foto nep is.

AI-technologie heeft gebruikers ook verbaasd met de mogelijkheid om kunstwerken te creëren in de stijl van een bepaalde kunstenaar. Zo kun je bijvoorbeeld een schilderij van een kat maken die eruitziet alsof hij is geschilderd in de stijl van de beroemde schilder Vincent van Gogh.

Voor beeldend kunstenaars kunnen deze hulpmiddelen ertoe leiden dat ze hun werk niet meer kunnen doen, omdat AI-modellen hun unieke stijl imiteren en zonder hun toestemming kunstwerken creëren.

AI-ondersteuningstools

Eveline Fröhlich, woonachtig in Stuttgart, Duitsland, is een van de steeds grotere groep kunstenaars die zich verzet tegen de overmacht van AI en manieren probeert te vinden om hun visuele werk online te beschermen tegen manipulatie.

Onlangs hoorde mevrouw Fröhlich over een tool genaamd Glaze, ontwikkeld door computerwetenschappers aan de Universiteit van Chicago (VS) om misbruik van AI-modellen te voorkomen.

Ben Zhao, hoogleraar computerwetenschappen aan de Universiteit van Chicago en een van de hoofdonderzoekers van Project Glaze, vertelde aan CNN dat de tool bedoeld is om het unieke werk van kunstenaars te beschermen tegen AI-trainingseenheden.

De software van Glaze maakt gebruik van algoritmes voor machinaal leren om kleine wijzigingen aan te brengen in digitale afbeeldingen. Deze wijzigingen zijn met het blote oog niet zichtbaar, maar vormen een beschermende laag voor het werk in de online omgeving. Zo worden AI-modellen voor de gek gehouden, waardoor ze de stijl van de auteur niet kunnen kopiëren.

Dankzij Glaze worden kunstwerken 'bedekt met onzichtbaarheid', waardoor AI de afbeelding niet meer kan 'lezen'.

Zo legde meneer Zhao uit dat een kunstenaar een afbeelding van zijn eigen olieverfschilderij kon uploaden, die vervolgens door Glaze werd gehaald. Wanneer de AI-modellen het schilderij 'lazen', zagen ze het als een houtskoolschets, terwijl een mens het direct als een olieverfschilderij zou herkennen. Nadat het door Glaze was gehaald, zag het kunstwerk er nu aanzienlijk anders uit voor de ogen van de AI.

Zhao's team bracht de eerste versie van Glaze afgelopen maart uit en heeft sindsdien meer dan een miljoen downloads gehad. Vorige week nog lanceerde het team een ​​gratis versie van Glaze online.

Het team hoopt dat de Glaze-tool de auteursrechten van kunstenaars zal helpen beschermen totdat er specifieke regels en wetten zijn vastgesteld.

Sinds de introductie van Glaze, zo vertelt de heer Zhao, neemt het aantal stemacteurs, romanschrijvers, muzikanten en journalisten dat contact opneemt met zijn team om te vragen naar een versie van Glaze voor hun vakgebied toe.

De in Californië wonende beeldend kunstenaar Jon Lam gebruikt de Glaze-tool om te voorkomen dat zijn online kunstwerken worden gebruikt om AI-modellen te trainen. Hij zegt dat hij de app nu gebruikt voor al het artwork dat hij online deelt.

Jarenlang hebben kunstenaars zoals hij hun werk in volledige resolutie online gezet, uit trots, zei hij. "We willen dat mensen zien hoe gedetailleerd en verbluffend full HD-foto's zijn. Kunstenaars weten echter niet dat hun werk kan worden 'opgegeten' door AI-modellen, die vervolgens hun stijl kopiëren en hen blootstellen aan oneerlijke concurrentie.

"We weten nu dat mensen ons werk met hoge resolutie gebruiken en in AI-machines invoeren om op dezelfde manier te concurreren als wij. We moeten dus voorzichtiger zijn en nadenken over hoe we onszelf kunnen beschermen", zei hij.

Salman en zijn team hebben zojuist een nieuwe tool gelanceerd om afbeeldingen te beschermen tegen AI. De app, genaamd PhotoGuard, stelt gebruikers in staat om een ​​onzichtbare beschermingslaag over afbeeldingen te plaatsen om te voorkomen dat AI-modellen de afbeeldingen manipuleren.

Het doel van PhotoGuard is om foto's die al online zijn geüpload door hun makers te beschermen tegen "kwaadaardige AI-manipulatie", aldus de heer Salman.

De PhotoGuard-app werkt door de pixels van een afbeelding aan te passen op een manier die voor mensen niet waarneembaar is. Deze verandering, die met het blote oog niet waarneembaar is, is echter krachtig genoeg en omzeilt zorgvuldig elke poging van AI-modellen om de afbeelding te manipuleren.

Dit betekent dat als iemand een foto probeert te bewerken met AI nadat deze is beveiligd met PhotoGuard, de resulterende foto 'helemaal niet realistisch' zal zijn, aldus Salman.

Niet gelicentieerd

Aan de andere kant, zelfs als AI-tools afbeeldingen gebruiken en manipuleren, wordt datgene wat ze creëren niet erkend als auteursrechtelijk beschermd.

Sinds de opkomst en opkomst van AI heeft het ook een debat aangewakkerd: zijn deze werken auteursrechtelijk beschermd? En zo ja, van wie zijn ze dan?

Het Amerikaanse Copyright Office (USCO) heeft een officiële beslissing genomen over deze werken. Volgens de USCO zijn afbeeldingen die door AI zijn gemaakt op basis van commando's – zoals de huidige apps Midjourney, Dall-E en Stable Diffusion – niet auteursrechtelijk beschermd in de VS.

Volgens de Amerikaanse wet kan intellectueel eigendom alleen auteursrechtelijk beschermd worden als het voortkomt uit menselijke creativiteit. De USCO erkent momenteel alleen door mensen gecreëerd werk. AI-machines worden daarom niet als auteurs beschouwd en de producten die ze creëren, vallen niet onder het auteursrecht.

"Als de traditionele auteursrechtelijke elementen in een werk door een machine zijn gecreëerd, dan rust er geen auteursrecht op het werk van een mens en zal USCO het niet registreren", aldus Shira Perlmutter, directeur van USCO.

Bron: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html