ChatGPT bryter ner "förtroendets fästning" på internet.

Uppdateringen av ChatGPT Image 2.0 har förmågan att skapa realistiska bilder och meddelanden. Experter förutspår att falsk information kommer att bli alltmer sofistikerad och utbredd på kort sikt.

Bilder som genereras av AI lider inte längre av handskrivna och vietnamesiska textfel som tidigare. Foto: Threads .

Användare av sociala medier är förbryllade över att AI-teknik nu kan skapa skärmdumpar, meddelanden och bekanta appgränssnitt som ser så verkliga ut att de är omöjliga att skilja från verkligheten med blotta ögat. Samtidigt fokuserar teknikjättar i allt högre grad på verktyg för bildskapande för att spara kostnader och underlätta spridning.

Handskrift, eller till och med vissa delar av människokroppen, anses vara indikatorer för att skilja mellan verkliga och falska bilder. När AI kan övervinna dessa begränsningar kommer internet att hamna i en förtroendekris.

Fokusera på äkthet.

På senare tid har användare på plattformar som Facebook och Threads ständigt delat bilder från sina dagliga liv, såsom snabba selfies, skärmdumpar från meddelanden, rum och klassrum. Det är värt att notera att alla dessa är producerade med det nya bildskapandeverktyget ChatGPT Image 2.0.

Det delade kommandot bad helt enkelt AI:n att skapa en selfie utan tydligt motiv eller mening i kompositionen. Det resulterande fotot hade en suddig övergång, var något överexponerat på grund av solljus eller rumsbelysning och kändes generellt mediokert.

Den gemensamma nämnaren är att de resulterande bilderna inte är exceptionellt skarpa, som de som tas med en telefons främre kamera, men varje detalj – ansiktsuttryck, hår, inredning och handstil – ser otroligt realistisk ut. Det är inte bara AI som skapar karaktärerna, utan bilderna innehåller också meddelanden och fotoalbum som ser exakt ut som en vanlig persons.

Inläggen fick miljontals visningar och tiotusentals interaktioner, ett rekordhögt antal jämfört med de vanliga mätvärdena på Threads. Kommentarfältet översvämmades av användare som delade resultaten från ChatGPT, medan andra uttryckte förvirring över AI:ns äkthet, som om den hade "rotat igenom" deras personliga fotoarkiv.

Användare delar resultat genererade av ChatGPT Image 2.0. Foto: Trådar.

Faktum är att den allmänna trenden inom AI-bilder skiftar från polerade, felfria stilar till bilder av medelmåttig kvalitet men med en mycket mer "tillförlitlig" känsla. Enligt Leon Furze, doktorand i tillämpad AI, fokuserar den nya generationen av AI på att ta bort fördjupningar i bilder för att skapa illusionen att de inte längre är artificiella.

I ett uttalande till Tri Thức - Znews bedömde experten Vu Do Tuan Huy, chef för VCCI CEO Community, ChatGPT Image 2.0 som förbättrad och ganska kraftfull, särskilt vad gäller ljussättning, material och mänskligt uttryck. "Baserat på min personliga erfarenhet tycker jag att bilderna påverkas mindre av AI. Verktyget är också mycket enkelt att använda, kan justeras med naturligt språk och åtgärdar nästan helt vietnamesiska teckensnittsfel", kommenterade Huy.

Det som förvånade användarna var att AI kunde skapa bilder och ögonblick som var vanliga och oskriptade. Det var denna förtrogenhet, snarare än estetisk dragningskraft, som gjorde dem illa till mods.

Kortsiktiga risker från AI-bilder

I internetkulturen är bilder synonymt med verklighet, och skärmdumpar fungerar ofta som bevis i onlinetransaktioner och tvister. Därför ligger faran med AI i dess förmåga att skapa bilder från grunden, vilket gör det svårt att spåra tecken på manipulation.

Teknikföretag spelar också en roll i att sprida detta verktyg för att optimera kostnader och tjäna uppmärksamhetsekonomin . OpenAI stängde ner sitt videoskapandeverktyg Sora i april, men inte för att tekniken misslyckades.

Enligt WSJ har Sora höga driftskostnader, vilket gör det svårt att skala upp till gratisanvändare och olämpligt för det rådande ekonomiska landskapet. Samtidigt är bildskapandeverktyg snabba, billiga och kan dra till sig mer uppmärksamhet när de publiceras online. Användare kan använda AI för att skapa bilder för meddelanden, reklam eller till och med komiskt innehåll.

En bild på miljardären Elon Musk som säljer chilisås, skapad av AI, har nyligen blivit viral. Foto: Duoyin.

I ett uttalande till Tri Thức - Znews förutspådde Dao Van Bac, rådgivare på Vinalink Academy, att dessa modeller kommer att bli alltmer intelligenta och effektiva. "Inledningsvis kommer de att gynna användarna, men i längden kommer det att bli kostsamt att använda dessa funktioner", sa Bac.

I takt med att kunder blir alltmer beroende av AI kommer företag sannolikt att kunna införa användarkostnader, eller betalväggar. Därför kan användare bli tvungna att betala för att behålla sin konkurrensfördel.

Å andra sidan tror Tuan Huy att verktyget på kort sikt kommer att bli billigare för att betjäna majoriteten. ”Sociala medier kommer att explodera med AI-genererat innehåll eftersom alla kommer att ha tillgång till det”, sa han.

Experter varnar också för ökande bedrägerier, där sensationspreget falskt innehåll sannolikt kommer att dra till sig mer uppmärksamhet än äkta innehåll i takt med att deepfake-tekniken utvecklas. Med tanke på att praktiskt taget all information online kan förfalskas, även videosamtal , kan användare möta en förtroendekris på internet.

Källa: https://znews.vn/chatgpt-pha-vo-thanh-tri-niem-tin-บน-internet-post1647883.html