Мета-теги для маркировки изображений, созданные с помощью искусственного интеллекта, на Facebook

Ник Клегг, президент по глобальным вопросам компании Meta, сообщил, что компания будет использовать набор маркеров, встроенных в файлы. Компания будет добавлять метки к любому контенту, публикуемому в своих сервисах Facebook, Instagram и Threads, давая пользователям понять, что изображения (которые могут казаться настоящими фотографиями) на самом деле являются цифровыми творениями искусственного интеллекта. Компания также маркирует контент, созданный с помощью собственных инструментов искусственного интеллекта, сообщает Reuters.

После запуска новой системы Meta будет делать то же самое для изображений, созданных на сервисах OpenAI, Microsoft, Adobe, Midjourney, Shutterstock и Alphabet. Это объявление стало первой новостью о новом стандарте, который технологические компании разрабатывают для снижения вреда от генеративного ИИ, способного создавать поддельный контент даже из простых материалов.

Маркировка изображений с помощью искусственного интеллекта поможет бороться с дезинформацией и мошенничеством

Подход основан на схеме, созданной компаниями за последнее десятилетие для координации удаления на платформах запрещенного контента, например, сцен массового насилия и эксплуатации детей.

Клегг полагает, что на данном этапе компании могут надежно маркировать изображения, созданные с помощью ИИ, но при этом отмечает, что более сложные инструменты маркировки аудио- и видеоконтента все еще находятся в стадии разработки.

Meta начнет требовать от пользователей маркировать измененный аудио- и видеоконтент и будет вводить штрафы, если они этого не сделают, но Клегг заявил, что в настоящее время не существует жизнеспособного механизма маркировки текста, созданного инструментами ИИ, такими как ChatGPT.

Независимый надзорный совет Meta раскритиковал политику компании в отношении вводящих в заблуждение отредактированных видеороликов, заявив, что контент следует маркировать, а не удалять, поэтому Клегг заявил, что новый шаг Meta может помочь лучше классифицировать такой контент.

Ссылка на источник: https://thanhnien.vn/meta-gan-nhan-hinh-anh-do-ai-tao-ra-tren-facebook-18524020711453543.htm