YouTube överanvänder AI.

YouTubes hemliga användning av AI för att redigera videor väcker frågor om gränsen mellan verklighet och den virtuella världen, liksom teknikföretagens potential att manipulera innehåll.

YouTube använder i tysthet AI för att redigera videor från sina skapare. Foto: Serenity Strull .

I ett kontroversiellt drag har YouTube i hemlighet använt AI för att redigera användares videor utan förvarning eller tillstånd. Denna hemliga innehållsförbättring har väckt oro, särskilt i samband med att AI i allt högre grad dominerar mänskligt liv.

Historien började när Rick Beato, en populär YouTuber med över 5 miljoner prenumeranter, lade märke till något ovanligt i en nyligen genomförd video. "Mitt hår ser konstigt ut", delade han. "När jag tittade närmare såg mitt ansikte ut som om jag hade smink på mig." Innehållsskaparen, med nästan 2 000 videor, undrade: "Inbillar jag mig saker?"

AI-testning

YouTube har i tysthet använt artificiell intelligens (AI) för att förbättra kvaliteten på videor på sin plattform, särskilt YouTube Shorts. Problemet uppdagades först när flera välkända YouTubers, inklusive Rick Beato och Rhett Shull, upptäckte konstiga AI-genererade detaljer i sitt eget innehåll.

Inledningsvis kände Rick Beato att något var fel med hans utseende i videon. Han lade märke till att hans hår såg annorlunda ut och hans hud var ovanligt slät, nästan som om han hade smink på sig. Han undrade om han bara inbillade sig saker, tills hans vän Rhett Shull, en annan YouTuber, upplevde liknande problem.

Shull uttryckte sin frustration över dessa oönskade förändringar och sa: "Om jag ville ha dessa skarpa effekter skulle jag ha gjort det själv." Han oroade sig för att det AI-genererade utseendet kunde "förvränga" hans image och negativt påverka publikens upplevelse.

Rick Beato har också gjort många videor om AI:s inverkan på musikbranschen . Foto: Rick Beato/YouTube.

Klagomål om dessa ändringar började dyka upp i juni, när användare på sociala medier ifrågasatte företagets avsikter. Efter månader av spekulationer utfärdade YouTube äntligen ett uttalande som bekräftade ändringarna.

Rene Ritchie, chef för redaktionella relationer och skaparrelationer på YouTube, publicerade på X att företaget "kör ett experiment på ett utvalt antal YouTube Shorts-videor med traditionell maskininlärningsteknik för att skärpa, minska brus och förbättra videoskärpan".

Enligt Samuel Woolley, en expert på desinformation vid University of Pittsburgh i USA, är dock denna jämförelse felaktig. Han betonar att användare har rätt att slå på/av liknande funktioner på sina telefoner, medan YouTube "manipulerar innehåll från toppskapare utan deras samtycke".

Woolley föreslog också att YouTubes användning av termen "maskininlärning" var ett sätt att tona ner nivån av AI-interventioner, i syfte att lindra allmänhetens oro.

Förlust av tro

YouTube-skandalen belyser en alarmerande trend: AI stör alltmer människors liv på ett osynligt sätt. Denna subtila förändring, enligt experter, kan urholka vår uppfattning om den verkliga världen .

Detta fenomen är inte nytt. Liknande problem uppstod för årtionden sedan med Photoshops tillkomst, följt av debatter om fotoredigering av modeller eller användningen av skönhetsfilter på sociala medier. Woolley menar dock att AI har tagit dessa trender till en ny nivå, vilket gjort redigeringar mycket vanligare och svårare att upptäcka.

”AI blir alltmer ett sätt att forma våra liv och vår verklighet”, konstaterade experten.

Händelsen visar hur enkelt stora teknikföretag kan kontrollera och manipulera det innehåll som användare ser dagligen. Foto: Decrypt.

Flera tidigare skandaler har belyst denna trend. År 2023 upptäcktes det att Samsung använde AI för att "förfalska" månbilder på sina nya enheter. På senare tid introducerade Google Pixel funktionen "Best Take", som använder AI för att kombinera de bästa ansiktena från flera foton till ett perfekt gruppfoto – vilket skapar ett exempellöst ögonblick. Pixel 10 använder till och med AI-genererad zoom för att uppnå 100x zoom, vilket vida överskrider en kameras fysiska begränsningar.

I takt med att dessa funktioner blir mer utbredda suddas gränserna mellan verklighet och virtualitet ut. För att hantera detta har vissa företag antagit nya metoder för innehållsautentisering, som att lägga till digitala vattenstämplar på AI-redigerade bilder, vilket hjälper användare att identifiera manipulerat innehåll. Kärnproblemet är dock fortfarande urholkningen av förtroendet.

Woolley varnade för att YouTubes agerande visar att AI håller på att bli ett verktyg som formar liv och verklighet. Dessutom skapar det ett prejudikat för hur teknikföretag enkelt kan manipulera och i hemlighet ändra innehållet vi tittar på för att tjäna sina egna syften.

”Vad skulle hända om allmänheten visste att företag godtyckligt redigerade innehåll, utan att ens meddela skaparna själva?” frågade experten.

Medan vissa, som Rick Beato, inte är alltför bekymrade och har uttryckt att "YouTube har förändrat mitt liv", kvarstår oron. Dessa subtila förändringar kan krossa det redan bräckliga förtroendet mellan kreatörer och publik.

Källa: https://znews.vn/hanh-dong-gay-tranh-cai-cua-youtube-post1579994.html