Změna pro lepší ochranu dětí

SGGP 29. listopadu 2023 06:52

Australská vláda zveřejnila řadu návrhů plánů na posílení povinností online společností chránit děti a další uživatele internetu před škodlivým obsahem.

Austrálie doufá, že navrhované regulační změny povedou k větší bezpečnosti dětí na internetu

Navrhované změny přicházejí po kritice, že vláda nedělá dost pro bezpečnost dětí na internetu, uvedla australská ministryně komunikací Michelle Rowlandová.

Navrhované změny by umožnily rozšířit regulaci tak, aby zahrnovala algoritmy a umělou inteligenci (AI) a zajistily, že při navrhování jakýchkoli služeb bude v popředí nejlepší zájem dětí, uvedla paní Rowlandová.

„Víme, že děti jsou zranitelné vůči škodlivému obsahu online a je důležité, aby jejich nejlepší zájmy byly upřednostňovány při navrhování a implementaci služeb,“ uvedla paní Rowlandová a vysvětlila, proč by děti měly být v popředí při navrhování obsahu, ke kterému mají přístup. Konzultace o navrhovaných změnách poskytovatelů online služeb, včetně služeb sociálních médií, skončí v únoru 2024. V srpnu australský orgán pro dohled nad online bezpečností eSafety vyzval k regulačnímu dohledu nad odvětvím komunikačních technologií.

Podle organizace eSafety agentura obdržela stížnosti na děti, které používají počítače k vytváření pornografických obrázků svých vrstevníků za účelem šikany. eSafety uvádí, že poskytovatelé služeb musí podniknout „přiměřené kroky“ k proaktivnímu minimalizování rozsahu, v jakém schopnosti umělé inteligence vytvářejí materiál nebo podmínky pro nelegální nebo škodlivé aktivity, včetně falešných filmů generovaných umělou inteligencí.

Organizace eSafety varovala, že na webových stránkách používaných dětmi jsou zapotřebí přísnější postupy ověřování věku, aby se zabránilo jejich nucení k vytváření sexuálně zneužívajícího materiálu nebo obsahu. Analýza více než 1300 hlášení o sexuálním zneužívání dětí, které organizace eSafety získala, zjistila, že každé osmé dítě si obsah „vytvořilo“ samo, protože je „predátoři“ nutili, aby se natáčely a fotografovaly při sexuálně explicitních akcích. Děti ve skutečnosti mohou ověření věku snadno obejít, když se účastní online webových stránek.

Dne 26. listopadu oznámily USA, Velká Británie a více než 10 dalších zemí mezinárodní dohodu o bezpečnosti umělé inteligence. Podle amerických představitelů se jedná o první podrobnou dohodu o tom, jak zajistit bezpečné používání technologií umělé inteligence, a zároveň naléhavě žádá technologické společnosti, aby vytvářely bezpečné systémy umělé inteligence již od fáze návrhu. Podle dokumentu se 18 zemí dohodlo, že společnosti, které navrhují a používají umělou inteligenci, musí tuto pokročilou technologii vyvíjet a nasazovat. Dohoda není závazná, poskytuje především obecná doporučení, jako je monitorování zneužívání umělé inteligence, ochrana údajů...

Zdroj