Meta-rotulagem de imagens geradas por IA no Facebook

Nick Clegg, presidente de assuntos globais da Meta, disse que a empresa usará um conjunto de marcadores incorporados aos arquivos. A empresa aplicará rótulos a qualquer conteúdo publicado em seus serviços do Facebook, Instagram e Threads, sinalizando aos usuários que as imagens (que podem parecer fotos reais) são, na verdade, criações digitais geradas por inteligência artificial. A empresa também rotulou o conteúdo criado com suas próprias ferramentas de IA, de acordo com a Reuters.

Assim que o novo sistema estiver em funcionamento, o Meta fará o mesmo com imagens geradas em serviços da OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Alphabet. O anúncio traz as primeiras notícias sobre um novo padrão que as empresas de tecnologia estão desenvolvendo para mitigar os danos da IA ​​generativa, que pode criar conteúdo falso a partir de conteúdo simples.

A rotulagem de imagens geradas por IA ajudará a conter desinformação e golpes

A abordagem se baseia em um padrão estabelecido na última década pelas empresas para coordenar a remoção de conteúdo proibido em plataformas, como representações de violência em massa e exploração infantil.

Clegg acredita que as empresas podem rotular de forma confiável imagens geradas por IA neste momento, embora observe que ferramentas de rotulagem de conteúdo de áudio e vídeo mais sofisticadas ainda estão sendo desenvolvidas.

Num futuro próximo, o Meta começará a exigir que os usuários rotulem conteúdo de áudio e vídeo alterado e imporá penalidades caso não o façam. No entanto, Clegg afirmou que atualmente não existe um mecanismo viável para rotular textos gerados por ferramentas de IA como o ChatGPT.

O conselho de supervisão independente da Meta criticou a política da empresa sobre vídeos editados de forma enganosa, dizendo que o conteúdo deveria ser rotulado em vez de removido, então Clegg disse que a nova medida da Meta poderia ajudar a classificar melhor esse conteúdo.

Link da fonte: https://thanhnien.vn/meta-gan-nhan-hinh-anh-do-ai-tao-ra-tren-facebook-18524020711453543.htm