Teknologibransjen søker å identifisere AI-genererte bilder

[annonse_1]

Truepic-sjef Jeffrey McGregor sa at hendelsen bare var toppen av isfjellet. Det vil bli mer AI-generert innhold på sosiale medier, og vi er ikke klare for det, sa McGregor.

Ifølge CNN ønsker Truepic å løse dette problemet ved å tilby teknologi som hevder å autentisere media ved opprettelse gjennom Truepic Lens. Datainnsamlingsappen vil fortelle brukerne dato, klokkeslett, sted og enhet som ble brukt til å lage bildet, og bruke en digital signatur for å bekrefte om bildet er naturlig eller AI-generert.

Falskt bilde av Pentagon-eksplosjonen går viralt på Twitter

Truepic, et Microsoft-støttet selskap grunnlagt i 2015, sa at selskapet ser interesse fra frivillige organisasjoner til medieselskaper, til og med forsikringsselskaper som ønsker å bekrefte at krav er legitime.

McGregor sier at når alt kan forfalskes, når kunstig intelligens har nådd sitt høydepunkt i kvalitet og tilgjengelighet, vet vi ikke lenger hva virkeligheten er på nett.

Teknologiselskaper som Truepic har jobbet i årevis for å bekjempe feilinformasjon på nett. Men fremveksten av en ny type AI-verktøy som kan generere bilder og tekst på brukerens kommando har økt presserende. Tidligere i år ble falske bilder av pave Frans i en Balenciaga-dunjakke og tidligere amerikanske president Donald Trump som ble arrestert, delt mye. Begge hendelsene har gjort millioner av mennesker forvirret over de potensielle farene ved AI.

Noen lovgivere oppfordrer nå teknologiselskaper til å ta tak i problemet ved å merke AI-generert innhold. Visepresident i Europakommisjonen (EC), Vera Jourova, sa at selskaper som Google, Meta, Microsoft og TikTok har sluttet seg til EUs frivillige retningslinjer for bekjempelse av desinformasjon.

Et økende antall oppstartsbedrifter og teknologigiganter, inkludert noen som implementerer generativ AI i produktene sine, prøver å implementere standarder og løsninger som hjelper folk med å avgjøre om et bilde eller en video ble laget med AI.

Men ettersom AI-teknologien utvikler seg raskere enn mennesker kan holde tritt, er det uklart om disse løsningene kan løse problemet fullt ut. Selv OpenAI, selskapet bak Dall-E og ChatGPT, har innrømmet at deres egne anstrengelser for å oppdage AI-generert skriving er ufullkomne.

Selskaper som utvikler løsninger har to tilnærminger til problemet. Den første er basert på å utvikle programmer for å identifisere AI-genererte bilder etter at de har blitt produsert og delt på nettet. Den andre fokuserer på å merke et bilde som ekte eller AI-generert med en type digital signatur.

Reality Defender og Hive Moderation jobber med den første. Med plattformen deres kan brukere laste opp bilder som skal skannes, og deretter motta en oversikt som viser en prosentandel av om bildet er ekte eller AI-generert.

Reality Defender sa at de bruker proprietær deepfake- og generativ innholdsfingeravtrykksteknologi for å oppdage AI-generert video, lyd og bilder. I et eksempel levert av selskapet viste Reality Defender et deepfake-bilde av Tom Cruise som var 53 % «mistenkelig» fordi personen på bildet hadde et forvrengt ansikt som ofte sees i manipulerte bilder.

Disse tjenestene tilbyr gratis og betalte versjoner. Hive Moderation sier at de tar 1,50 dollar per 1000 bilder. Realty Defender sier at prisene kan variere basert på en rekke faktorer, i tilfeller der kunder trenger selskapets ekspertise og støtte. Reality Defender-sjef Ben Colman sier at risikoen dobles hver måned fordi hvem som helst kan lage falske bilder ved hjelp av AI-verktøy.

Flere andre selskaper jobber med å legge til en slags etikett på bilder for å bekrefte om de er ekte eller AI-genererte. Så langt har arbeidet i stor grad blitt drevet av Content Authenticity and Origination Alliance (C2PA).

C2PA ble grunnlagt i 2021 for å lage en teknisk standard for å sertifisere opprinnelsen og historien til digitale medier, ved å kombinere Adobes Content Authentication Initiative (CAI) og Project Origin, ledet av Microsoft og BBC, med fokus på å bekjempe feilinformasjon i digitale nyheter. Andre selskaper involvert i C2PA inkluderer Truepic, Intel og Sony.

Basert på prinsippene bak C2PA, vil CAI lansere verktøy med åpen kildekode som selskaper kan bruke til å lage innholdslegitimasjon, eller metadata, som inneholder informasjon om bilder. Ifølge CAIs nettsted lar dette skapere dele detaljer om hvordan de laget et bilde på en transparent måte. På denne måten kan sluttbrukere få tilgang til konteksten rundt hvem, hva og hvordan et bilde ble endret – og deretter selv bedømme hvor autentisk bildet er.

Mange selskaper har allerede integrert C2PA-standarden og CAI-verktøy i applikasjonene sine. Adobes Firefly, et nytt AI-bildebehandlingsverktøy lagt til Photoshop, overholder C2PA-standarden gjennom funksjonen Content Credentials. Microsoft kunngjorde også at bilder og videoer laget med Bing Image Creator og Microsoft Designer vil ha kryptografiske signaturer i løpet av de kommende månedene.

I mai annonserte Google funksjonen «Om dette bildet», som lar brukere se når et bilde først dukket opp på Google og hvor det kan sees. Søkegiganten annonserte også at alle Google AI-genererte bilder vil ha en markering i den originale filen for å «legge til kontekst» hvis bildet finnes på et annet nettsted eller en annen plattform.

Mens teknologiselskaper prøver å ta tak i bekymringer om AI-genererte bilder og integriteten til digitale medier, understreker eksperter på feltet at bedrifter må samarbeide med hverandre og med myndigheter for å løse problemet. Likevel kjemper teknologiselskaper om å utvikle AI til tross for risikoen.

[annonse_2]
Kildekobling