Změny pro lepší ochranu dětí.

SGGP 29. 11. 2023 06:52

Australská vláda právě předložila několik návrhů plánu na posílení povinností online společností při ochraně dětí a uživatelů internetu před škodlivým obsahem.

Austrálie doufá, že navrhované změny předpisů pomohou zajistit větší bezpečnost dětí online.

Podle australské ministryně komunikací Michelle Rowlandové byly navrhované změny předloženy poté, co se objevily obavy, že vláda neudělala dostatek pro zajištění bezpečnosti dětí při online aktivitách.

Paní Rowlandová uvedla, že navrhované změny by umožnily širší rozsah regulace, který by zahrnoval algoritmy a umělou inteligenci (AI), a zajistil by tak, aby při navrhování jakékoli služby byly nejvyšší prioritou zájmy dětí.

„Víme, že děti jsou zranitelné vůči škodlivému obsahu na internetu a je zásadní, aby jejich nejlepší zájmy byly upřednostňovány v celém životním cyklu návrhu a zavádění služeb,“ vysvětlila paní Rowlandová a zdůraznila, proč by děti měly být upřednostňovány při navrhování obsahu, ke kterému mají přístup. Konzultace o navrhovaných změnách týkajících se poskytovatelů online služeb, včetně poskytovatelů sociálních médií, budou ukončeny v únoru 2024. Předtím, v srpnu, australský orgán pro dohled nad online bezpečností eSafety vyzval k regulačnímu dohledu nad technologickým a mediálním průmyslem.

Podle organizace eSafety agentura obdržela stížnosti na děti, které používají počítače k vytváření pornografických obrázků svých vrstevníků za účelem šikany. eSafety uvádí, že poskytovatelé služeb musí podniknout „přiměřené kroky“ k proaktivnímu minimalizování rozsahu, v jakém může umělá inteligence generovat materiál nebo podmínky pro nelegální či škodlivou činnost, včetně falešných videí generovaných umělou inteligencí.

Organizace eSafety již dříve varovala, že na webových stránkách používaných dětmi jsou zapotřebí přísnější procesy ověřování věku, aby se zabránilo jejich nátlaku k vytváření sexuálně zneužívajícího materiálu nebo obsahu. Analýzou více než 1300 hlášení o sexuálním zneužívání dětí eSafety zjistila, že každé osmé dítě si takový obsah „vytvořilo“ samo, často v rukou predátorů, kteří je nutili natáčet nebo fotografovat sexuálně explicitní akty. Ve skutečnosti mohou děti při přístupu na online webové stránky snadno obejít ověření věku.

Dne 26. listopadu oznámily USA, Spojené království a více než 10 dalších zemí mezinárodní dohodu o bezpečnosti umělé inteligence. Podle amerických představitelů se jedná o první podrobnou dohodu o tom, jak zajistit bezpečné používání technologií umělé inteligence, a naléhavě žádá technologické společnosti, aby vytvářely bezpečné systémy umělé inteligence již od fáze návrhu. Dokument uvádí, že 18 zemí se shodlo na tom, že společnosti navrhující a používající umělou inteligenci musí tuto pokročilou technologii vyvíjet a nasazovat. Dohoda je nezávazná a poskytuje především obecná doporučení, jako je monitorování zneužívání umělé inteligence a ochrana dat.

Zdroj