Changer pour mieux protéger les enfants

SGGP 29 novembre 2023 06:52

Le gouvernement australien a publié un certain nombre de propositions visant à renforcer les obligations des entreprises en ligne pour protéger les enfants et les autres utilisateurs d’Internet contre les contenus préjudiciables.

L'Australie espère que les changements réglementaires proposés renforceront la sécurité des enfants en ligne.

Les changements proposés font suite aux critiques selon lesquelles le gouvernement ne fait pas assez pour assurer la sécurité des enfants en ligne, selon la ministre australienne des Communications, Michelle Rowland.

Les changements proposés permettraient d’élargir la réglementation pour couvrir les algorithmes, l’intelligence artificielle synthétique (IA) et garantir que les meilleurs intérêts des enfants soient au premier plan lors de la conception de tout service, a déclaré Mme Rowland.

« Nous savons que les enfants sont vulnérables aux contenus préjudiciables en ligne et il est important que leur intérêt supérieur soit prioritaire dès la conception et la mise en œuvre des services », a déclaré Mme Rowland, expliquant pourquoi les enfants doivent être au cœur de la conception des contenus auxquels ils ont accès. La consultation sur les modifications proposées aux fournisseurs de services en ligne, y compris les réseaux sociaux, prendra fin en février 2024. En août, l'organisme australien de surveillance de la sécurité en ligne, eSafety, a appelé à une surveillance réglementaire du secteur des technologies de communication.

Selon eSafety, l'agence a reçu des plaintes concernant des enfants utilisant des ordinateurs pour créer des images pornographiques de leurs pairs à des fins d'intimidation. eSafety stipule que les fournisseurs de services doivent prendre des « mesures raisonnables » pour minimiser de manière proactive la mesure dans laquelle les capacités de l'IA créent du matériel ou des conditions pour des activités illégales ou nuisibles, y compris les faux films générés par l'IA.

eSafety a averti que des procédures de vérification de l'âge plus strictes étaient nécessaires sur les sites web utilisés par les enfants afin d'éviter qu'ils ne soient contraints de créer du contenu à caractère sexuel. L'analyse de plus de 1 300 signalements d'abus sexuels sur mineurs recueillis par eSafety a révélé qu'un enfant sur huit « créait » lui-même le contenu, car des « prédateurs » le forçaient à se filmer et à se photographier lors d'actes sexuellement explicites. En réalité, les enfants peuvent facilement contourner la vérification de l'âge lorsqu'ils utilisent des sites web.

Le 26 novembre, les États-Unis, le Royaume-Uni et plus de dix autres pays ont annoncé un accord international sur la sécurité de l'IA. Selon les responsables américains, il s'agit du premier accord détaillé sur la manière de garantir une utilisation sûre de l'IA, et il encourage également les entreprises technologiques à créer des systèmes d'IA sûrs dès leur conception. Selon ce document, dix-huit pays ont convenu que les entreprises qui conçoivent et utilisent l'IA doivent développer et déployer cette technologie avancée. Cet accord, non contraignant, formule principalement des recommandations générales, telles que la surveillance des abus de l'IA, la protection des données…

Source