Le risque de manipulation des images personnelles par l'IA

Le développement de l’intelligence artificielle (IA) menace non seulement l’emploi des artistes du monde entier, mais expose également les internautes au risque de voir leurs images manipulées de diverses manières.

Les outils d'IA créent facilement de faux produits technologiques. (Photo d'illustration)

« L'ère du deepfake »

À l'inverse, l'IA, entre de mauvaises mains, peut facilement voler des images sur les réseaux sociaux et les transformer en références indésirables. Par exemple, des sites web pornographiques peuvent utiliser des images de personnes sans leur consentement.

« Nous sommes à l'ère des deepfakes », a déclaré Hadi Salman, chercheur au Massachusetts Institute of Technology. « Désormais, n'importe qui peut manipuler des images et des vidéos pour inciter les gens à faire quelque chose qu'ils n'ont pas fait. »

Deepfake est une combinaison des mots « deep learning » et « fake », qui est une méthode d’utilisation de l’IA pour créer de faux produits technologiques sous forme d’audio, d’images ou même de vidéos .

En quelques secondes, grâce à quelques commandes simples, l'IA peut créer l'image que les « méchants » souhaitent. Par exemple, on pourrait demander à l'IA de créer une photo du pape portant un manteau Balenciaga, puis de la publier en ligne avant qu'il ne soit révélé qu'elle est fausse.

L'IA a également impressionné les utilisateurs par sa capacité à créer des œuvres d'art dans le style d'un artiste particulier. Par exemple, vous pouvez créer un tableau de chat qui semble avoir été peint dans le style du célèbre peintre Vincent Van Gogh.

Pour les artistes visuels, ces outils risquent de les mettre au chômage, car les modèles d’IA imitent leur style unique et créent des œuvres d’art sans leur permission.

Outils de support de l'IA

Eveline Fröhlich, qui vit à Stuttgart, en Allemagne, fait partie d’un nombre croissant d’artistes qui luttent contre l’omniprésence de l’IA et tentent de trouver des moyens de protéger leurs œuvres visuelles en ligne contre toute manipulation.

Récemment, Mme Fröhlich a découvert un outil appelé Glaze, développé par des informaticiens de l’Université de Chicago (États-Unis) pour empêcher l’abus des modèles d’IA.

Ben Zhao, professeur d'informatique à l'Université de Chicago et l'un des principaux chercheurs du projet Glaze, a déclaré à CNN que l'outil est destiné à protéger le travail unique des artistes des unités de formation de l'IA.

Le logiciel Glaze utilise des algorithmes d'apprentissage automatique pour apporter de petites modifications aux images numériques qui sont invisibles à l'œil nu, mais créent une couche protectrice pour l'œuvre dans l'environnement en ligne, trompant les modèles d'IA, les rendant incapables de copier le style de l'auteur.

Grâce à Glaze, les œuvres d'art sont « recouvertes d'invisibilité », empêchant l'IA de « lire » l'image.

Par exemple, a expliqué M. Zhao, un artiste pourrait télécharger une image de sa propre peinture à l'huile, puis la traiter avec Glaze. Lorsque les modèles d'IA « lisent » la peinture, ils la voient comme un dessin au fusain, tandis qu'un humain la reconnaît immédiatement comme une peinture à l'huile. Après traitement avec Glaze, l'œuvre apparaît alors sensiblement différente aux yeux de l'IA.

L'équipe de Zhao a lancé la première version de Glaze en mars dernier, qui a été téléchargée plus d'un million de fois. La semaine dernière, l'équipe a également mis en ligne une version gratuite de Glaze.

L'équipe espère que l'outil Glaze aidera à protéger les droits d'auteur des artistes jusqu'à ce que des réglementations et des lois spécifiques soient établies.

Depuis l'introduction de Glaze, a déclaré M. Zhao, il a constaté une augmentation du nombre d'acteurs de doublage, de romanciers, de musiciens et de journalistes contactant son équipe pour demander une version de Glaze adaptée à leur domaine.

L'artiste visuel californien Jon Lam utilise l'outil Glaze pour protéger ses œuvres d'art en ligne contre toute utilisation pour former des modèles d'IA, et affirme qu'il utilise désormais l'application pour toutes les œuvres d'art qu'il partage en ligne.

Depuis des années, des artistes comme lui publient fièrement leurs œuvres en haute résolution en ligne, a-t-il déclaré. « Nous voulons que les gens voient à quel point les photos Full HD sont détaillées et époustouflantes. Cependant, les artistes ignorent que leur travail peut être « dévoré » par des modèles d'IA, qui copient ensuite leur style et les exposent à une concurrence déloyale. »

« Nous savons maintenant que des personnes s'emparent de nos travaux haute résolution et les intègrent à des machines d'IA pour rivaliser avec nous. Nous devons donc redoubler de prudence et commencer à réfléchir à la manière de nous protéger », a-t-il déclaré.

Salman et son équipe viennent de lancer un nouvel outil pour protéger les images contre l'IA. Baptisée PhotoGuard, cette application permet aux utilisateurs de placer une couche de protection invisible sur les images afin d'empêcher les modèles d'IA de les manipuler.

L'objectif de PhotoGuard est de protéger les photos déjà téléchargées en ligne par leurs auteurs contre toute « manipulation malveillante de l'IA », a déclaré M. Salman.

L'application PhotoGuard ajuste les pixels d'une image de manière imperceptible à l'œil nu. Cependant, ce changement, invisible à l'œil nu, est suffisamment puissant pour déjouer toute tentative de manipulation de l'image par les modèles d'IA.

Cela signifie que si quelqu'un essaie de modifier une photo à l'aide de l'IA après qu'elle a été protégée par PhotoGuard, la photo résultante ne sera « pas du tout réaliste », a expliqué Salman.

Non autorisé

De l’autre côté du problème, même si les outils d’IA prennent et manipulent des images, ce qu’ils créent n’est pas reconnu comme protégé par le droit d’auteur.

Depuis son apparition et son essor, l'IA a également suscité un débat : ces œuvres sont-elles protégées par le droit d'auteur ? Si oui, à qui appartiennent-elles ?

L'Office américain du droit d'auteur (USCO) a pris une décision officielle concernant ces œuvres. Selon l'USCO, toute image créée par l'IA à partir de commandes (comme les applications actuelles Midjourney, Dall-E et Stable Diffusion) ne sera pas protégée par le droit d'auteur aux États-Unis.

La loi américaine stipule que la propriété intellectuelle ne peut être protégée par le droit d'auteur que si elle est le fruit de la créativité humaine. L'USCO ne reconnaît actuellement que les œuvres créées par des humains. Par conséquent, les machines d'IA ne seront pas considérées comme des auteurs et les produits qu'elles créent ne seront pas protégés par le droit d'auteur.

« Si les éléments traditionnels du droit d’auteur dans une œuvre sont créés par une machine, alors l’œuvre n’est pas protégée par le droit d’auteur d’un humain, et l’USCO ne l’enregistrera pas », a déclaré la directrice de l’USCO, Shira Perlmutter.

Source: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html