Svět musí naléhavě jednat, aby se s touto hrozbou vypořádal dříve, než umělá inteligence překoná lidskou kontrolu.
Toto naléhavé varování vydala 23. června Rada pro monitorování a hodnocení zpravodajských služeb Five Eyes Intelligence Monitoring and Assessment Council (FIORC), která potvrdila, že zavedení ochranných opatření proti umělé inteligenci je nyní nezbytné pro prevenci rizika globální kybernetické krize.
Země se domnívají, že tempo vývoje umělé inteligence nyní daleko převyšuje vývoj mechanismů pro řízení a ochranu bezpečnosti.
V prohlášení se uvádí: „Předpokládá se, že pokročilé modely umělé inteligence brzy překonají současná očekávání a zásadně změní jak kybernetické útoky, tak i obranné schopnosti.“ Časový rámec není roky, ale jen měsíce.
Jednou z obav je rostoucí používání velkých jazykových modelů (LLM) k automatizaci procesu psaní škodlivého kódu. Technologie Deepfake (falšování obrazu a hlasu založené na umělé inteligenci) se také vyvíjí alarmujícím tempem.
Rizika se neomezují pouze na kyberkriminalitu nebo finanční podvody; umělá inteligence může být také zneužita k manipulaci s veřejným míněním, šíření dezinformací a přímému dopadu na národní bezpečnost.
Aliance vydala naléhavá doporučení, která se zaměřují na silný posun směrem k proaktivnímu modelu prevence a větší odpovědnost velkých technologických korporací za produkty umělé inteligence, které vyvíjejí.
Kybernetická bezpečnostní opatření je třeba integrovat již od fáze návrhu systému. Je třeba posílit sdílení dat a informací v reálném čase mezi veřejným a soukromým sektorem…
Podle Australského centra pro kybernetickou bezpečnost (ACSC) by pokud nebudou rychle zavedeny globální bezpečnostní standardy pro umělou inteligenci, mohl svět čelit riziku manipulace internetu stále složitějšími a obtížněji ovladatelnými algoritmy.
Zdroj: https://nhandan.vn/canh-bao-rui-ro-ai-gia-tang-post971028.html







