Risken med att AI manipulerar personliga bilder

Utvecklingen av artificiell intelligens (AI) hotar inte bara konstnärers jobb runt om i världen , utan utsätter också internetanvändare för risken att få sina bilder manipulerade på olika sätt.

AI-verktyg skapar enkelt förfalskade teknikprodukter. (Illustrationsfoto)

"Deepfakes tidsålder"

Å andra sidan kan AI, i fel händer, enkelt stjäla bilder från individers sociala mediekonton och förvandla dem till oönskade referenser. Till exempel kan pornografiska webbplatser använda bilder av individer utan samtycke.

”Vi lever i deepfakes-åldern”, säger Hadi Salman, forskare vid Massachusetts Institute of Technology. ”Nu kan vem som helst manipulera bilder och videor för att få folk att ’göra’ något de inte gjorde.”

Deepfake är en kombination av orden ”deep learning” och ”fake”, vilket är en metod för att använda AI för att skapa falska teknikprodukter i form av ljud, bilder eller till och med videor .

På bara några sekunder, med några enkla kommandon, kan AI skapa vilken bild som helst som "skurkarna" vill ha. Till exempel skulle någon kunna be AI att skapa ett foto av påven i en Balenciaga-kappa och sedan lägga upp det online innan det visar sig att fotot är fejk.

AI-teknik har också förvånat användare med sin förmåga att skapa konstverk i stil med en viss konstnär. Till exempel kan man skapa en målning av en katt som ser ut som om den är målad i stil med den berömda målaren Vincent van Gogh.

För bildkonstnärer riskerar dessa verktyg att göra dem arbetslösa eftersom AI-modeller härmar deras unika stilar och skapar konstverk utan deras tillstånd.

AI-stödverktyg

Eveline Fröhlich, som bor i Stuttgart, Tyskland, är en av ett växande antal konstnärer som kämpar mot AI:s överdrivna inverkan och försöker hitta sätt att skydda sina visuella verk online från manipulation.

Nyligen fick Ms. Fröhlich veta om ett verktyg som heter Glaze, utvecklat av datavetare vid University of Chicago (USA) för att förhindra missbruk av AI-modeller.

Ben Zhao, professor i datavetenskap vid University of Chicago och en av de ledande forskarna bakom Project Glaze, berättade för CNN att verktyget är avsett att skydda konstnärers unika verk från AI-utbildningsenheter.

Glaze-programvaran använder maskininlärningsalgoritmer för att göra små ändringar i digitala bilder som är osynliga för blotta ögat, men som skapar ett skyddande lager för arbetet i onlinemiljön, vilket lurar AI-modeller och gör dem oförmögna att kopiera författarens stil.

Tack vare Glaze är konstverk "täckta av osynlighet", vilket hindrar AI från att "läsa" bilden.

Till exempel, förklarade Zhao, kunde en konstnär ladda upp en bild av sin egen oljemålning, som kördes genom Glaze. När AI-modellerna "läste" målningen skulle de se den som en kolskiss – medan en människa omedelbart skulle känna igen den som en oljemålning. Efter att ha kört den genom Glaze skulle konstverket nu se markant annorlunda ut för AI:ns ögon.

Zhaos team släppte den första versionen av Glaze i mars förra året och har haft mer än en miljon nedladdningar. Bara förra veckan släppte teamet en gratisversion av Glaze online.

Teamet hoppas att Glaze-verktyget ska bidra till att skydda konstnärers upphovsrätt tills specifika regler och lagar har fastställts.

Sedan han introducerade Glaze, sa Zhao, har han sett en ökning av röstskådespelare, romanförfattare, musiker och journalister som kontaktar hans team för att fråga om en version av Glaze för deras område.

Den Kalifornienbaserade bildkonstnären Jon Lam använder Glaze-verktyget för att skydda sina onlinekonstverk från att användas för att träna AI-modeller, och säger att han nu använder appen för alla konstverk han delar online.

I åratal har konstnärer som han lagt upp sina verk i full upplösning online av stolthet, sa han. ”Vi vill att folk ska se hur detaljerade och fantastiska full HD-foton är. Konstnärer vet dock inte att deras verk kan ’ätas upp’ av AI-modeller, som sedan kopierar deras stil och utsätter dem för illojal konkurrens.”

”Nu vet vi att folk tar vårt högupplösta arbete och matar det in i AI-maskiner för att konkurrera inom samma område som oss. Så vi måste vara mer försiktiga och börja tänka på hur vi kan skydda oss själva”, sa han.

Salman och hans team har precis släppt ytterligare ett verktyg för att skydda bilder från AI. Appen, som heter PhotoGuard, låter användare placera ett osynligt skyddslager över bilder för att förhindra att AI-modeller manipulerar bilderna.

PhotoGuards mål är att skydda foton som redan har laddats upp online av sina upphovsmän från "skadlig AI-manipulation", sa Salman.

PhotoGuard-appen fungerar genom att justera pixlarna i en bild på ett sätt som är omärkligt för människor. Denna förändring, som är omärklig för blotta ögat, är dock tillräckligt kraftfull och kringgår noggrant alla försök från AI-modeller att manipulera bilden.

Det betyder att om någon försöker redigera ett foto med hjälp av AI efter att det har skyddats av PhotoGuard, kommer det resulterande fotot att "inte alls vara realistiskt", förklarade Salman.

Inte licensierad

Å andra sidan, även om AI-verktyg tar och manipulerar bilder, erkänns det de skapar inte som upphovsrättsskyddat.

Sedan AI uppstod och blev alltmer framträdande har den också väckt en debatt: är dessa verk upphovsrättsskyddade? Om så är fallet, vem tillhör de?

Det amerikanska upphovsrättsverket (USCO) har fattat ett officiellt beslut om dessa verk. Enligt USCO kommer bilder som skapats av AI baserat på kommandon – (som de nuvarande apparna Midjourney, Dall-E och Stable Diffusion) – inte att vara upphovsrättsskyddade i USA.

Amerikansk lag anger att immateriella rättigheter endast kan upphovsrättsskyddas om de är ett resultat av mänsklig kreativitet. USCO erkänner för närvarande endast verk skapade av människor. Därför kommer AI-maskiner inte att betraktas som upphovsmän, och de produkter de skapar kommer inte att vara upphovsrättsskyddade.

”Om de traditionella upphovsrättselementen i ett verk skapas av en maskin, då är verket inte upphovsrättsskyddat av en människa, och USCO kommer inte att registrera det”, säger USCO-direktören Shira Perlmutter.

Källa: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html