Metadados com rótulos em imagens geradas por IA no Facebook.

Segundo a Reuters, Nick Clegg, presidente de assuntos globais da Meta, afirmou que a empresa utilizará um conjunto de marcadores integrados aos arquivos. A empresa aplicará etiquetas a todo o conteúdo publicado em seus serviços Facebook, Instagram e Threads, uma medida que visa sinalizar aos usuários que as imagens (que podem se assemelhar a fotos reais) são, de fato, produtos digitais gerados por inteligência artificial. A empresa também rotulou conteúdo criado com suas próprias ferramentas de IA.

Assim que o novo sistema estiver estabelecido e operacional, a Meta fará o mesmo para imagens geradas em serviços da OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Alphabet. O anúncio traz as primeiras notícias sobre um novo sistema padrão que empresas de tecnologia estão desenvolvendo para mitigar os danos causados ​​pela tecnologia de inteligência artificial, que pode criar conteúdo falso usando apenas fontes simples.

A rotulagem de imagens geradas por IA ajudará a limitar a desinformação e os golpes.

Essa abordagem se baseia no padrão estabelecido na última década por empresas para coordenar a remoção de conteúdo proibido em plataformas, como representações de violência em massa e exploração infantil.

Clegg acredita que, neste momento, as empresas já conseguem rotular imagens geradas por IA de forma confiável, embora observe que ferramentas mais sofisticadas para anotação de conteúdo de áudio e vídeo ainda estão em desenvolvimento.

Inicialmente, a Meta exigirá que os usuários rotulem o conteúdo de áudio e vídeo alterado e imporá penalidades para quem não o fizer. No entanto, Clegg afirmou que atualmente não existe um mecanismo viável para rotular textos gerados por ferramentas de IA como o ChatGPT.

O conselho de supervisão independente da Meta criticou a política da empresa em relação a vídeos editados de forma enganosa, argumentando que o conteúdo deveria ser rotulado em vez de removido. Portanto, Clegg acredita que a nova medida da Meta pode ajudar a categorizar melhor esse tipo de conteúdo.

Link da fonte: https://thanhnien.vn/meta-gan-nhan-hinh-anh-do-ai-tao-ra-tren-facebook-18524020711453543.htm