Meta de rotulagem de imagens geradas por IA no Facebook

Nick Clegg, presidente de assuntos globais da Meta, afirmou que a empresa utilizará um conjunto de marcadores incorporados aos arquivos. A empresa aplicará etiquetas a todo o conteúdo publicado em seus serviços Facebook, Instagram e Threads, sinalizando aos usuários que as imagens (que podem parecer fotos reais) são, na verdade, criações digitais geradas por inteligência artificial. A empresa também já rotulou conteúdo criado com suas próprias ferramentas de IA, segundo a Reuters.

Assim que o novo sistema estiver em funcionamento, a Meta fará o mesmo com imagens geradas em serviços da OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Alphabet. O anúncio traz as primeiras notícias sobre um novo padrão que empresas de tecnologia estão desenvolvendo para mitigar os danos da IA ​​generativa, que pode criar conteúdo falso a partir de conteúdo simples.

A rotulagem de imagens gerada por IA ajudará a combater a desinformação e os golpes.

Essa abordagem se baseia em um padrão estabelecido na última década por empresas para coordenar a remoção de conteúdo proibido em plataformas, como representações de violência em massa e exploração infantil.

Clegg acredita que, neste momento, as empresas já conseguem rotular imagens geradas por IA de forma confiável, embora observe que ferramentas mais sofisticadas para rotulagem de conteúdo de áudio e vídeo ainda estão em desenvolvimento.

A Meta começará a exigir que os usuários rotulem o conteúdo de áudio e vídeo alterado e imporá penalidades caso não o façam, mas Clegg afirmou que atualmente não existe um mecanismo viável para rotular textos gerados por ferramentas de IA como o ChatGPT.

O conselho de supervisão independente da Meta criticou a política da empresa em relação a vídeos editados de forma enganosa, afirmando que o conteúdo deveria ser rotulado em vez de removido. Por isso, Clegg disse que a nova medida da Meta pode ajudar a classificar melhor esse tipo de conteúdo.

Link da fonte: https://thanhnien.vn/meta-gan-nhan-hinh-anh-do-ai-tao-ra-tren-facebook-18524020711453543.htm