Changer pour mieux protéger les enfants

SGGP 29/11/2023 06:52

Le gouvernement australien a publié des propositions pour un plan visant à accroître les obligations des entreprises en ligne afin de protéger les enfants et les autres utilisateurs d’Internet contre les contenus préjudiciables.

L'Australie espère que les changements réglementaires proposés permettront de renforcer la sécurité des enfants en ligne

Les changements proposés font suite aux critiques selon lesquelles le gouvernement ne faisait pas assez pour assurer la sécurité des enfants en ligne, a déclaré la ministre des Communications, Michelle Rowland.

Les changements proposés étendraient la portée de la réglementation pour inclure les algorithmes, l'intelligence artificielle synthétique (IA) et garantiraient que les meilleurs intérêts des enfants soient au premier plan lors de la conception de tout service, a déclaré Mme Rowland.

« Nous savons que les enfants sont vulnérables aux contenus préjudiciables en ligne et il est important que leur intérêt supérieur soit prioritaire dès la conception et la mise en œuvre des services », a déclaré Mme Rowland, expliquant pourquoi les enfants doivent être au cœur de la conception des contenus auxquels ils peuvent accéder. La consultation sur les modifications proposées aux fournisseurs de services en ligne, y compris les services de médias sociaux, s'achèvera en février 2024. En août, l'organisme australien de surveillance de la sécurité en ligne, eSafety, a appelé à une surveillance réglementaire du secteur des technologies de communication.

Selon eSafety, l'agence a reçu des plaintes concernant des enfants utilisant des ordinateurs pour créer des images pornographiques de leurs pairs à des fins d'intimidation. eSafety stipule que les fournisseurs de services doivent prendre des « mesures raisonnables » pour minimiser de manière proactive la mesure dans laquelle les capacités de l'IA créent du matériel ou des conditions pour des activités illégales ou nuisibles, y compris les faux films générés par l'IA.

eSafety a averti que des procédures de vérification de l'âge plus strictes étaient nécessaires sur les sites web utilisés par les enfants afin d'éviter qu'ils ne soient contraints de créer du contenu à caractère sexuel. L'analyse de plus de 1 300 signalements d'abus sexuels sur mineurs reçus par eSafety a révélé qu'un enfant sur huit avait « créé » lui-même le contenu, car des « prédateurs » l'avaient forcé à se filmer et à se photographier en train de se livrer à des actes sexuellement explicites. En réalité, les enfants peuvent facilement contourner la vérification de l'âge lorsqu'ils utilisent des sites web.

Le 26 novembre, les États-Unis, le Royaume-Uni et plus de dix autres pays ont annoncé un accord international sur la sécurité de l'IA. Selon les responsables américains, il s'agit du premier accord détaillé sur la manière de garantir une utilisation sûre de l'IA, et il encourage également les entreprises technologiques à créer des systèmes d'IA sûrs dès leur conception. Selon ce document, 18 pays ont convenu que les entreprises qui conçoivent et utilisent l'IA doivent développer et déployer cette technologie avancée. Cet accord n'est pas contraignant et formule principalement des recommandations générales, telles que la surveillance des abus de l'IA, la protection des données, etc.

Source