Le risque de manipulation des images personnelles par l'IA

Le développement de l'intelligence artificielle (IA) menace non seulement les emplois des artistes du monde entier, mais expose également les utilisateurs d'Internet au risque de voir leurs images manipulées de diverses manières.

Les outils d'IA permettent de créer facilement de faux produits technologiques. (Photo d'illustration)

« L’ère du deepfake »

En revanche, entre de mauvaises mains, l'IA peut facilement voler des images sur les comptes de réseaux sociaux et les utiliser à des fins malveillantes. Par exemple, des sites pornographiques peuvent utiliser des images de personnes sans leur consentement.

« Nous sommes entrés dans l’ère des deepfakes », a déclaré Hadi Salman, chercheur au Massachusetts Institute of Technology. « Désormais, n’importe qui peut manipuler des images et des vidéos pour faire croire à des gens qu’ils ont fait quelque chose qu’ils n’ont pas fait. »

Le terme deepfake est une combinaison des mots « apprentissage profond » et « faux », désignant une méthode utilisant l'IA pour créer de faux produits technologiques sous forme audio, d'images ou même de vidéos .

En quelques secondes seulement, grâce à quelques commandes simples, l'IA peut créer n'importe quelle image que les « méchants » souhaitent. Par exemple, quelqu'un pourrait demander à l'IA de créer une photo du pape portant un manteau Balenciaga, puis de la publier en ligne avant que l'on découvre qu'il s'agit d'un faux.

L'intelligence artificielle a également stupéfié les utilisateurs par sa capacité à créer des œuvres d'art dans le style d'un artiste particulier. Par exemple, il est possible de réaliser un tableau de chat qui semble avoir été peint dans le style du célèbre peintre Vincent Van Gogh.

Pour les artistes visuels, ces outils risquent de les mettre au chômage, car les modèles d'IA imitent leurs styles uniques et créent des œuvres d'art sans leur permission.

Hélice IA

Eveline Fröhlich, qui vit à Stuttgart, en Allemagne, fait partie d'un nombre croissant d'artistes qui luttent contre les excès de l'IA et tentent de trouver des moyens de protéger leurs œuvres visuelles en ligne contre toute manipulation.

Récemment, Mme Fröhlich a découvert un outil appelé Glaze, développé par des informaticiens de l'Université de Chicago (États-Unis) pour prévenir l'utilisation abusive des modèles d'IA.

Ben Zhao, professeur d'informatique à l'Université de Chicago et l'un des principaux chercheurs du projet Glaze, a déclaré à CNN que cet outil vise à protéger le travail unique des artistes contre les unités d'entraînement de l'IA.

Le logiciel Glaze utilise des algorithmes d'apprentissage automatique pour apporter de petites modifications aux images numériques, invisibles à l'œil nu, mais créant une couche protectrice pour l'œuvre dans l'environnement en ligne, trompant les modèles d'IA et les empêchant de copier le style de l'auteur.

Grâce à Glaze, les œuvres d'art sont « recouvertes d'invisibilité », empêchant ainsi l'IA de « lire » l'image.

Par exemple, comme l'a expliqué M. Zhao, un artiste peut télécharger une image de sa propre peinture à l'huile, qui est ensuite traitée par Glaze. Lorsque les modèles d'IA « lisent » la peinture, ils la perçoivent comme un croquis au fusain, alors qu'un humain la reconnaît immédiatement comme une peinture à l'huile. Après traitement par Glaze, l'œuvre apparaît alors sensiblement différente aux yeux de l'IA.

L'équipe de Zhao a lancé la première version de Glaze en mars dernier et a enregistré plus d'un million de téléchargements. La semaine dernière, elle a mis en ligne une version gratuite de Glaze.

L'équipe espère que l'outil Glaze contribuera à protéger les droits d'auteur des artistes en attendant la mise en place de réglementations et de lois spécifiques.

Depuis le lancement de Glaze, M. Zhao a déclaré avoir constaté une augmentation du nombre de comédiens de doublage, de romanciers, de musiciens et de journalistes qui contactent son équipe pour se renseigner sur une version de Glaze adaptée à leur domaine.

L’artiste visuel californien Jon Lam utilise l’outil Glaze pour protéger ses œuvres en ligne contre leur utilisation pour l’entraînement de modèles d’IA, et affirme qu’il utilise désormais l’application pour toutes les œuvres qu’il partage en ligne.

Depuis des années, des artistes comme lui publient leurs œuvres en pleine résolution en ligne par fierté, a-t-il déclaré. « Nous voulons montrer au public la richesse et la beauté des photos en Full HD. Cependant, les artistes ignorent que leurs créations peuvent être copiées par des modèles d'IA, qui s'approprient leur style et les exposent à une concurrence déloyale. »

« Nous savons maintenant que certains utilisent nos travaux haute résolution pour entraîner des machines d'IA et nous faire concurrence. Nous devons donc être plus prudents et commencer à réfléchir à la manière de nous protéger », a-t-il déclaré.

Salman et son équipe viennent de lancer un nouvel outil pour protéger les images contre l'IA. L'application, baptisée PhotoGuard, permet aux utilisateurs d'appliquer une couche de protection invisible sur leurs images afin d'empêcher les modèles d'IA de les manipuler.

L'objectif de PhotoGuard est de protéger les photos déjà mises en ligne par leurs auteurs contre toute « manipulation malveillante par l'IA », a déclaré M. Salman.

L'application PhotoGuard fonctionne en ajustant les pixels d'une image de manière imperceptible pour l'œil humain. Cependant, cette modification, invisible à l'œil nu, est suffisamment puissante pour contrer efficacement toute tentative de manipulation de l'image par des modèles d'IA.

Cela signifie que si quelqu'un tente de modifier une photo à l'aide d'une IA après qu'elle a été protégée par PhotoGuard, la photo résultante ne sera « absolument pas réaliste », a expliqué Salman.

Non autorisé

D'un autre côté, même si les outils d'IA capturent et manipulent des images, ce qu'ils créent n'est pas considéré comme protégeable par le droit d'auteur.

Depuis son apparition et son ascension fulgurante, l'IA a également suscité un débat : ces œuvres sont-elles protégées par le droit d'auteur ? Si oui, à qui appartiennent-elles ?

L'Office américain du droit d'auteur (USCO) a rendu une décision officielle concernant ces œuvres. Selon l'USCO, les images créées par une IA à partir de commandes (comme celles des applications actuelles Midjourney, Dall-E et Stable Diffusion) ne seront pas protégeables par le droit d'auteur aux États-Unis.

La loi américaine stipule que la propriété intellectuelle ne peut être protégée par le droit d'auteur que si elle est le fruit de la créativité humaine. Actuellement, le Code des États-Unis ne reconnaît que les œuvres créées par des humains. Par conséquent, les machines dotées d'intelligence artificielle ne seront pas considérées comme des auteurs et leurs créations ne seront pas protégées par le droit d'auteur.

« Si les éléments traditionnels du droit d'auteur d'une œuvre sont créés par une machine, alors l'œuvre n'est pas protégée par le droit d'auteur d'un être humain, et l'USCO ne l'enregistrera pas », a déclaré Shira Perlmutter, directrice de l'USCO.

Source: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html