Sydafrika reviderar AI-policyn efter skandal med falska källor.

Den sydafrikanska regeringen har just tillsatt en oberoende expertpanel för att granska utkastet till nationell policy för artificiell intelligens efter en skandal som involverade dokument som innehåller fiktiva referenser.

Detta är ett av de sällsynta fallen där ett AI-regleringsdokument misstänks använda AI-genererat innehåll som saknar verifiering.

Utkastet, som släpptes i april för offentlig kommentar, syftar till att göra Sydafrika till en ledare inom afrikansk AI-innovation.

Men efter att News24 upptäckt ett flertal citat och referenser som inte existerade, tvingades det sydafrikanska departementet för digital kommunikation och teknologi (DCDT) att dra tillbaka hela dokumentet.

DCDT-minister Solly Malatsi erkände att "ett stort misstag" hade inträffat i dokumentsammanställningsprocessen. Han uppgav att tidigare internrevisioner inte hade upptäckt problemet och erkände bristande transparens i användningen av AI för att sammanställa referensmaterialet.

Den sydafrikanska regeringen siktar nu på att slutföra den reviderade versionen senast i november 2026 för godkännande av regeringen, innan den släpps för offentlig kommentar i januari 2027. Den nya granskningspanelen, som består av sju experter, har i uppdrag att granska alla dokument och ta bort eller ersätta felaktiga källor.

Jeanette Morwane, chef för digital innovation på DCDT, sa att revideringsprocessen kommer att fokusera på att säkerställa textens transparens och akademiska trovärdighet. ”Expertpanelen kommer att granska varje avsnitt av innehållet innan det lämnas in till regeringen”, sa hon.

Händelsen ledde också till interna disciplinära åtgärder. Två inblandade tjänstemän stängdes av i avvaktan på en utredning. DCDT:s generaldirektör Nonkqubela Jordan-Dyani beskrev händelsen som "mycket beklaglig" och sa att det var nödvändigt att dra tillbaka utkastet för att återställa myndighetens trovärdighet.

Skandalen i Sydafrika återspeglar den växande utmaningen i takt med att AI börjar användas i offentlig politik. Att generera verktyg kan bidra till snabbare datainsamling, men de riskerar också att generera felaktig information eller fiktiva källor om de inte verifieras korrekt av människor.

Observatörer tror att denna händelse fungerar som en tidig varning för många regeringar som globalt tillämpar AI-strategier. I takt med att artificiell intelligens blir alltmer involverad i styrning kommer krav på transparens, dataverifiering och ansvarsskyldighet sannolikt att bli avgörande.

Enligt Reuters

Källa: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html