AI-genererad bildmärkningsmeta på Facebook

Nick Clegg, chef för globala frågor på Meta, sa att företaget kommer att använda en uppsättning markörer inbyggda i filerna. Företaget kommer att sätta etiketter på allt innehåll som publiceras på sina Facebook-, Instagram- och Threads-tjänster, vilket signalerar till användarna att bilder (som kan verka vara riktiga foton) faktiskt är digitala skapelser genererade av artificiell intelligens. Företaget har också märkt innehåll som skapats med sina egna AI-verktyg, enligt Reuters.

När det nya systemet är igång kommer Meta att göra detsamma för bilder som genereras på tjänster från OpenAI, Microsoft, Adobe, Midjourney, Shutterstock och Alphabet. Tillkännagivandet är de första nyheterna om en ny standard som teknikföretag utvecklar för att mildra skadorna från generativ AI, som kan skapa falskt innehåll även från enkelt innehåll.

AI-genererad bildmärkning kommer att bidra till att minska felaktig information och bedrägerier

Tillvägagångssättet bygger på ett mönster som etablerats under det senaste decenniet av företag för att samordna borttagning av förbjudet innehåll på plattformar, såsom skildringar av massvåld och barnexploatering.

Clegg tror att företag på ett tillförlitligt sätt kan märka AI-genererade bilder vid det här laget, samtidigt som de noterar att mer sofistikerade verktyg för märkning av ljud- och videoinnehåll fortfarande är under utveckling.

Meta kommer att börja kräva att användare märker ändrat ljud- och videoinnehåll och kommer att utdöma straff om de inte gör det, men Clegg sa att det för närvarande inte finns någon fungerande mekanism för att märka text som genereras av AI-verktyg som ChatGPT.

Metas oberoende tillsynsnämnd har kritiserat företagets policy gällande vilseledande redigerade videor och sagt att innehåll bör märkas snarare än tas bort, så Clegg sa att Metas nya drag skulle kunna bidra till att bättre klassificera sådant innehåll.

Källänk: https://thanhnien.vn/meta-gan-nhan-hinh-anh-do-ai-tao-ra-tren-facebook-18524020711453543.htm