Teknikbranschen vill identifiera AI-genererade bilder

[annons_1]

Truepics VD Jeffrey McGregor sa att händelsen bara var toppen av isberget. Det kommer att finnas mer AI-genererat innehåll på sociala medier och vi är inte redo för det, sa McGregor.

Enligt CNN vill Truepic lösa detta problem genom att tillhandahålla teknik som påstår sig autentisera media vid skapandet via Truepic Lens. Datainsamlingsappen kommer att informera användarna om datum, tid, plats och enhet som användes för att skapa bilden, och tillämpa en digital signatur för att verifiera om bilden är naturlig eller AI-genererad.

Falsk bild av Pentagon-explosionen viraliseras på Twitter

Truepic, ett Microsoft-stödt företag som grundades 2015, sa att företaget ser intresse från icke-statliga organisationer till medieföretag, till och med försäkringsbolag som vill bekräfta att påståenden är berättigade.

McGregor säger att när allt kan förfalskas, när artificiell intelligens har nått sin topp i kvalitet och tillgänglighet, vet vi inte längre vad verkligheten är online.

Teknikföretag som Truepic har arbetat i åratal för att bekämpa desinformation online. Men framväxten av en ny generation AI-verktyg som kan generera bilder och text på användarkommando har ökat brådskan. Tidigare i år delades falska bilder av påven Franciskus i en Balenciaga-dunjacka och den tidigare amerikanska presidenten Donald Trump som arresterades i stor utsträckning. Båda incidenterna har lämnat miljontals människor förvirrade över de potentiella farorna med AI.

Vissa lagstiftare uppmanar nu teknikföretag att ta itu med problemet genom att märka AI-genererat innehåll. Europeiska kommissionens vice ordförande Vera Jourova sa att företag som Google, Meta, Microsoft och TikTok har anslutit sig till Europeiska unionens (EU) frivilliga uppförandekod för bekämpning av desinformation.

Ett växande antal startups och teknikjättar, inklusive några som implementerar generativ AI i sina produkter, försöker implementera standarder och lösningar som hjälper människor att avgöra om en bild eller video skapades med AI.

Men eftersom AI-tekniken utvecklas snabbare än människor kan hänga med är det oklart om dessa lösningar helt kan lösa problemet. Även OpenAI, företaget bakom Dall-E och ChatGPT, har medgett att deras egna ansträngningar att upptäcka AI-genererad skrift är ofullkomliga.

Företag som utvecklar lösningar har två sätt att hantera problemet. Det första bygger på att utveckla program för att identifiera AI-genererade bilder efter att de har producerats och delats online. Det andra fokuserar på att markera en bild som verklig eller AI-genererad med en typ av digital signatur.

Reality Defender och Hive Moderation arbetar med den första. Med sin plattform kan användare ladda upp bilder för skanning och sedan få en uppdelning som visar en procentandel av om fotot är riktigt eller AI-genererat.

Reality Defender uppgav att de använder egenutvecklad deepfake- och generativ innehållsfingeravtrycksteknik för att upptäcka AI-genererad video, ljud och bilder. I ett exempel som företaget tillhandahöll visade Reality Defender en deepfake-bild av Tom Cruise som var 53 % "misstänkt" eftersom personen på bilden hade ett förvrängt ansikte som ofta ses i manipulerade foton.

Dessa tjänster erbjuder både gratis och betalda versioner. Hive Moderation säger att de tar 1,50 dollar per 1 000 bilder. Realty Defender säger att deras prissättning kan variera beroende på en mängd olika faktorer, i de fall där kunder behöver företagets expertis och support. Reality Defender VD Ben Colman säger att risken fördubblas varje månad eftersom vem som helst kan skapa falska foton med hjälp av AI-verktyg.

Flera andra företag arbetar med att lägga till en sorts etikett på bilder för att bekräfta om de är verkliga eller AI-genererade. Hittills har arbetet till stor del drivits av Content Authenticity and Origination Alliance (C2PA).

C2PA grundades 2021 för att skapa en teknisk standard för att certifiera ursprunget och historien för digitala medier, genom att kombinera Adobes Content Authentication Initiative (CAI) och Project Origin, lett av Microsoft och BBC, med fokus på att bekämpa felaktig information i digitala nyheter. Andra företag som är involverade i C2PA inkluderar Truepic, Intel och Sony.

Baserat på principerna för C2PA kommer CAI att släppa verktyg med öppen källkod för företag att skapa innehållsreferenser, eller metadata, som innehåller information om bilder. Enligt CAIs webbplats gör detta det möjligt för skapare att transparent dela detaljer om hur de skapade en bild. På så sätt kan slutanvändare få tillgång till sammanhanget kring vem, vad och hur en bild ändrades – och sedan själva bedöma hur autentisk bilden är.

Många företag har redan integrerat C2PA-standarden och CAI-verktyg i sina applikationer. Adobes Firefly, ett nytt AI-bildverktyg som lagts till i Photoshop, följer C2PA-standarden genom sin funktion för innehållsuppgifter. Microsoft meddelade också att bilder och videor som skapats med Bing Image Creator och Microsoft Designer kommer att bära kryptografiska signaturer under de kommande månaderna.

I maj tillkännagav Google funktionen ”Om den här bilden”, som låter användare se när en bild först dök upp på Google och var den kan ses. Sökjätten meddelade också att varje Google AI-genererad bild kommer att ha en markup i originalfilen för att ”lägga till kontext” om bilden hittas på en annan webbplats eller plattform.

Medan teknikföretag försöker ta itu med oro kring AI-genererade bilder och integriteten hos digitala medier, betonar experter inom området att företag kommer att behöva samarbeta med varandra och med regeringar för att ta itu med problemet. Ändå kämpar teknikföretag för att utveckla AI trots riskerna.

[annons_2]
Källänk