Risikoen for at AI manipulerer personlige bilder

Utviklingen av kunstig intelligens (KI) truer ikke bare jobbene til kunstnere over hele verden , men setter også internettbrukere i fare for å få bildene sine manipulert på ulike måter.

AI-verktøy lager enkelt falske teknologiprodukter. (Illustrasjonsfoto)

«Deepfakes-tiden»

På den annen side kan AI, i gale hender, enkelt stjele bilder fra enkeltpersoners sosiale mediekontoer og gjøre dem om til uønskede referanser. For eksempel kan pornografiske nettsteder bruke bilder av enkeltpersoner uten samtykke.

«Vi lever i deepfakes-tiden», sa Hadi Salman, en forsker ved Massachusetts Institute of Technology. «Nå kan hvem som helst manipulere bilder og videoer for å få folk til å «gjøre» noe de ikke gjorde.»

Deepfake er en kombinasjon av ordene «deep learning» og «fake», som er en metode for å bruke AI til å lage falske teknologiprodukter i form av lyd, bilder eller til og med videoer .

På bare noen få sekunder, med noen få enkle kommandoer, kan AI lage hvilket som helst bilde «skurkene» ønsker. For eksempel kan noen be AI om å lage et bilde av paven iført en Balenciaga-frakk og deretter legge det ut på nettet før det viser seg at bildet er falskt.

AI-teknologi har også forbløffet brukere med sin evne til å lage kunstverk i stil med en bestemt kunstner. For eksempel kan du lage et maleri av en katt som ser ut som den er malt i stil med den berømte maleren Vincent van Gogh.

For billedkunstnere risikerer disse verktøyene å miste jobben ettersom AI-modeller etterligner deres unike stiler og lager kunstverk uten deres tillatelse.

AI-propell

Eveline Fröhlich, som bor i Stuttgart i Tyskland, er en av et økende antall kunstnere som kjemper mot den overdrevne innflytelsen til kunstig intelligens og prøver å finne måter å beskytte sine visuelle verk på nettet mot manipulasjon.

Nylig lærte fru Fröhlich om et verktøy kalt Glaze, utviklet av informatikere ved University of Chicago (USA) for å forhindre misbruk av AI-modeller.

Ben Zhao, professor i informatikk ved University of Chicago og en av hovedforskerne på Project Glaze, fortalte CNN at verktøyet er ment å beskytte kunstneres unike verk fra AI-opplæringsenheter.

Glaze-programvaren bruker maskinlæringsalgoritmer for å gjøre små endringer i digitale bilder som er usynlige for det blotte øye, men som skaper et beskyttende lag for arbeidet i nettmiljøet, og lurer AI-modeller slik at de ikke kan kopiere forfatterens stil.

Takket være Glaze blir kunstverk «dekket av usynlighet», noe som hindrer AI i å «lese» bildet.

For eksempel, forklarte Zhao, kunne en kunstner laste opp et bilde av sitt eget oljemaleri, som ble kjørt gjennom Glaze. Når AI-modellene «leser» maleriet, ville de se det som en kullskisse – mens et menneske umiddelbart ville gjenkjenne det som et oljemaleri. Etter å ha kjørt det gjennom Glaze, ville kunstverket nå se betydelig annerledes ut for AI-ens øyne.

Zhaos team lanserte den første versjonen av Glaze i mars i fjor, og har hatt mer enn en million nedlastinger. Bare forrige uke lanserte teamet en gratisversjon av Glaze på nett.

Teamet håper at Glaze-verktøyet vil bidra til å beskytte kunstneres opphavsrett inntil spesifikke forskrifter og lover er etablert.

Siden han introduserte Glaze, sa Zhao at han har sett en økning i antall stemmeskuespillere, romanforfattere, musikere og journalister som kontakter teamet hans for å spørre om en versjon av Glaze for deres felt.

Den California-baserte billedkunstneren Jon Lam bruker Glaze-verktøyet for å beskytte sine nettbaserte kunstverk mot å bli brukt til å trene AI-modeller, og sier at han nå bruker appen til alle kunstverkene han deler på nettet.

I årevis har kunstnere som ham lagt ut verkene sine i full oppløsning på nett av stolthet, sa han. «Vi vil at folk skal se hvor detaljerte og fantastiske full HD-bilder er. Kunstnere vet imidlertid ikke at arbeidet deres kan bli «spist opp» av AI-modeller, som deretter kopierer stilen deres og utsetter dem for urettferdig konkurranse.»

«Nå vet vi at folk tar vårt høyoppløselige arbeid og mater det inn i AI-maskiner for å konkurrere i samme område som oss. Så vi må være mer forsiktige og begynne å tenke på hvordan vi kan beskytte oss selv», sa han.

Salman og teamet hans har nettopp lansert et nytt verktøy for å beskytte bilder mot AI. Appen, kalt PhotoGuard, lar brukere legge et usynlig beskyttelseslag over bilder for å forhindre at AI-modeller manipulerer bildene.

PhotoGuards mål er å beskytte bilder som allerede er lastet opp på nettet av opphavsmennene sine mot «ondsinnet AI-manipulasjon», sa Salman.

PhotoGuard-appen fungerer ved å justere pikslene i et bilde på en måte som er umerkelig for mennesker. Denne endringen, som er umerkelig for det blotte øye, er imidlertid kraftig nok og omgår forsiktig ethvert forsøk fra AI-modeller på å manipulere bildet.

Dette betyr at hvis noen prøver å redigere et bilde ved hjelp av AI etter at det har blitt beskyttet av PhotoGuard, vil det resulterende bildet være «ikke realistisk i det hele tatt», forklarte Salman.

Ikke lisensiert

På den andre siden av problemet, selv om AI-verktøy tar og manipulerer bilder, blir ikke det de lager anerkjent som opphavsrettsbeskyttet.

Siden AI dukket opp og ble mer fremtredende, har den også utløst en debatt: er disse verkene opphavsrettsbeskyttet? I så fall, hvem tilhører de?

Det amerikanske opphavsrettskontoret (USCO) har tatt en offisiell avgjørelse om disse verkene. Ifølge USCO vil bilder laget av AI basert på kommandoer – (som de nåværende appene Midjourney, Dall-E og Stable Diffusion) – ikke være opphavsrettsbeskyttet i USA.

Amerikansk lov slår fast at åndsverk bare kan opphavsrettsbeskyttes dersom det er et produkt av menneskelig kreativitet. USCO anerkjenner for øyeblikket bare verk skapt av mennesker. Derfor vil ikke AI-maskiner bli ansett som opphavsmenn, og produktene de lager vil ikke være opphavsrettsbeskyttet.

«Hvis de tradisjonelle elementene i opphavsretten i et verk er skapt av en maskin, er ikke verket opphavsrettsbeskyttet av et menneske, og USCO vil ikke registrere det», sa USCO-direktør Shira Perlmutter.

Kilde: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html