Verandering om kinderen beter te beschermen

SGGP 29 november 2023 06:52

De Australische overheid heeft een aantal voorstellen gepubliceerd om de verplichtingen van onlinebedrijven om kinderen en andere internetgebruikers te beschermen tegen schadelijke inhoud te versterken.

Australië hoopt dat voorgestelde wetswijzigingen ervoor zullen zorgen dat kinderen online veiliger zijn

De voorgestelde wijzigingen volgen op kritiek dat de overheid niet genoeg doet om kinderen online veilig te houden, aldus de Australische minister van Communicatie Michelle Rowland.

Volgens Rowland maken de voorgestelde wijzigingen een uitgebreidere regelgeving mogelijk, die ook algoritmes en synthetische kunstmatige intelligentie (AI) omvat. Ook wordt hiermee gewaarborgd dat de belangen van kinderen voorop staan ​​bij het ontwerpen van diensten.

"We weten dat kinderen kwetsbaar zijn voor schadelijke online content en het is belangrijk dat hun belangen voorop staan ​​bij het ontwerp en de implementatie van diensten", aldus Rowland, die uitlegde waarom kinderen voorop zouden moeten staan ​​bij het ontwerp van de content waartoe ze toegang hebben. De consultatie over voorgestelde wijzigingen voor aanbieders van onlinediensten, waaronder socialemediadiensten, eindigt in februari 2024. In augustus riep de Australische waakhond voor online veiligheid, eSafety, op tot regelgevend toezicht op de communicatietechnologiesector.

Volgens eSafety heeft het agentschap klachten ontvangen over kinderen die computers gebruiken om pornografische afbeeldingen van hun leeftijdsgenoten te maken met als doel hen te pesten. eSafety stelt dat dienstverleners "redelijke stappen" moeten ondernemen om proactief de mate te minimaliseren waarin AI-capaciteiten materiaal of omstandigheden creëren voor illegale of schadelijke activiteiten, waaronder door AI gegenereerde nepfilms.

eSafety waarschuwt dat strengere leeftijdscontroleprocedures nodig zijn op websites die door kinderen worden gebruikt om te voorkomen dat ze gedwongen worden seksueel aanstootgevend materiaal of content te creëren. Uit analyse van meer dan 1300 meldingen van seksueel misbruik van kinderen die eSafety heeft verkregen, blijkt dat 1 op de 8 kinderen de content zelf "genereerde" omdat "roofdieren" hen dwongen zichzelf te filmen en te fotograferen tijdens seksueel expliciete handelingen. Kinderen kunnen de leeftijdscontrole zelfs gemakkelijk omzeilen wanneer ze online websites bezoeken.

Op 26 november kondigden de VS, het VK en meer dan 10 andere landen een internationale overeenkomst aan over de veiligheid van AI. Volgens Amerikaanse functionarissen is dit de eerste gedetailleerde overeenkomst over hoe AI-technologie veilig kan worden gebruikt, en spoort het technologiebedrijven tegelijkertijd aan om vanaf de ontwerpfase veilige AI-systemen te creëren. Volgens het document zijn 18 landen het erover eens dat bedrijven die AI ontwerpen en gebruiken, deze geavanceerde technologie moeten ontwikkelen en implementeren. De overeenkomst is niet bindend en bevat voornamelijk algemene aanbevelingen, zoals het monitoren van AI-misbruik, gegevensbescherming...

Bron: https://www.sggp.org.vn/thay-doi-de-bao-ve-tre-em-tot-hon-post716112.html