Des changements pour mieux protéger les enfants.

SGGP 29/11/2023 06:52

Le gouvernement australien vient de présenter plusieurs propositions visant à renforcer les obligations des entreprises en ligne en matière de protection des enfants et des internautes contre les contenus préjudiciables.

L'Australie espère que les modifications réglementaires proposées contribueront à mieux protéger les enfants en ligne.

Selon la ministre australienne des Communications, Michelle Rowland, les modifications proposées ont été présentées suite aux inquiétudes soulevées quant aux mesures prises par le gouvernement pour garantir la sécurité des enfants lors d'activités en ligne.

Mme Rowland a déclaré que les modifications proposées permettraient d'élargir le champ d'application de la réglementation afin d'englober les algorithmes et l'intelligence artificielle synthétique (IA), garantissant ainsi que l'intérêt supérieur de l'enfant soit la priorité absolue lors de la conception de tout service.

« Nous savons que les enfants sont vulnérables aux contenus préjudiciables sur Internet et il est essentiel que leurs intérêts supérieurs soient prioritaires tout au long du cycle de vie de la conception et du déploiement des services », a expliqué Mme Rowland, soulignant pourquoi les enfants devraient être au cœur de la conception des contenus auxquels ils peuvent accéder. Les consultations sur les modifications proposées aux fournisseurs de services en ligne, y compris les réseaux sociaux, s'achèveront en février 2024. Auparavant, en août, l'autorité australienne de surveillance de la sécurité en ligne, eSafety, avait appelé à un contrôle réglementaire du secteur des technologies et des médias.

Selon eSafety, l'agence a reçu des plaintes concernant des enfants utilisant des ordinateurs pour créer des images pornographiques de leurs camarades à des fins de harcèlement. eSafety précise que les fournisseurs de services doivent prendre des mesures raisonnables pour minimiser de manière proactive la capacité de l'IA à générer du contenu ou des conditions propices à des activités illégales ou nuisibles, notamment des vidéos truquées produites par l'IA.

eSafety avait déjà alerté sur la nécessité de renforcer les procédures de vérification d'âge sur les sites web fréquentés par les enfants afin de les empêcher d'être contraints de créer des contenus à caractère sexuel. L'analyse de plus de 1 300 signalements d'abus sexuels sur mineurs a révélé qu'un enfant sur huit avait lui-même créé de tels contenus, souvent sous l'influence de prédateurs qui l'obligeaient à filmer ou photographier des actes sexuellement explicites. En réalité, les enfants peuvent facilement contourner la vérification d'âge lorsqu'ils accèdent à des sites web.

Le 26 novembre, les États-Unis, le Royaume-Uni et plus de dix autres pays ont annoncé un accord international sur la sécurité de l'IA. Selon des responsables américains, il s'agit du premier accord détaillé sur la manière de garantir une utilisation sûre de l'IA. Il encourage les entreprises technologiques à concevoir des systèmes d'IA sécurisés dès leur conception. Le document stipule que 18 pays se sont engagés à ce que les entreprises concevant et utilisant l'IA développent et déploient cette technologie de pointe. Cet accord, non contraignant, formule principalement des recommandations générales, telles que la surveillance des utilisations abusives de l'IA et la protection des données.

Source