Jihoafrická republika po skandálu s falešnými zdroji reviduje politiku v oblasti umělé inteligence.

Jihoafrická republika reviduje svou národní politiku v oblasti umělé inteligence poté, co byl předchozí návrh stažen kvůli četným vymyšleným citacím údajně vytvořeným umělou inteligencí, což vyvolalo debatu o důvěryhodnosti této veřejné politiky.

Jihoafrická vláda právě zřídila nezávislý panel expertů, který má přezkoumat návrh národní politiky v oblasti umělé inteligence po skandálu týkajícím se dokumentů obsahujících fiktivní odkazy.

Toto je jeden z mála případů, kdy existuje podezření, že regulační dokument týkající se umělé inteligence používá obsah generovaný umělou inteligencí, který není ověřen.

Návrh, který byl v dubnu zveřejněn k veřejnému připomínkování, si klade za cíl učinit z Jihoafrické republiky lídra v oblasti afrických inovací v oblasti umělé inteligence.

Poté, co však News24 objevil četné citace a odkazy, které neexistovaly, byl jihoafrický Department for Digital Communications and Technology (DCDT) nucen celý dokument stáhnout.

Ilustrační obrázek. Foto: Reuters

Ministr DCDT Solly Malatsi uznal, že v procesu sestavování dokumentů došlo k „závažnému přehlédnutí“. Uvedl, že předchozí interní audity problém neodhalily, a připustil nedostatek transparentnosti při používání umělé inteligence k sestavování referenčních materiálů.

Jihoafrická vláda nyní usiluje o finalizaci revidované verze do listopadu 2026 ke schválení kabinetem a poté ji v lednu 2027 zveřejní k veřejnému připomínkování. Nový hodnotící panel složený ze sedmi odborníků má za úkol prozkoumat všechny dokumenty a odstranit nebo nahradit nepřesné zdroje.

Jeanette Morwaneová, ředitelka digitálních inovací v DCDT, uvedla, že proces revize se zaměří na zajištění transparentnosti a akademické důvěryhodnosti textu. „Expertní panel přezkoumá každou část obsahu, než ji předloží vládě,“ dodala.

Incident vedl také k interním disciplinárním opatřením. Dva zapojení úředníci byli suspendováni do doby vyšetřování. Generální ředitelka DCDT Nonkqubela Jordan-Dyani označila incident za „velmi politováníhodný“ a uvedla, že stažení návrhu bylo nezbytné k obnovení důvěryhodnosti agentury.

Skandál v Jihoafrické republice odráží rostoucí výzvu, kterou představuje skutečnost, že se umělá inteligence začíná používat ve veřejné politice. Nástroje pro generování dat mohou pomoci s rychlejší agregací dat, ale zároveň s sebou nesou riziko generování dezinformací nebo fiktivních zdrojů, pokud je lidé řádně neověří.

Pozorovatelé se domnívají, že tento incident slouží jako včasné varování pro mnoho vlád, které celosvětově prosazují strategie v oblasti umělé inteligence. Vzhledem k tomu, že se umělá inteligence stále více zapojuje do správy věcí veřejných, požadavky na transparentnost, ověřování dat a odpovědnost se pravděpodobně stanou klíčovými.

Podle agentury Reuters

Zdroj: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html