Zuid-Afrika herziet AI-beleid na schandaal rond nepbronnen.

Zuid-Afrika herziet zijn nationale beleid inzake kunstmatige intelligentie nadat een eerder ontwerp werd ingetrokken vanwege talrijke verzonnen citaten die naar verluidt door AI waren gegenereerd, wat leidde tot discussie over de geloofwaardigheid van het overheidsbeleid.

De Zuid-Afrikaanse regering heeft onlangs een onafhankelijk panel van deskundigen ingesteld om het ontwerp van het nationale beleid inzake kunstmatige intelligentie te beoordelen, naar aanleiding van een schandaal rond documenten die fictieve verwijzingen bevatten.

Dit is een van de zeldzame gevallen waarin een regelgevingsdocument over AI ervan verdacht wordt gebruik te maken van door AI gegenereerde inhoud die niet geverifieerd is.

Het ontwerp, dat in april ter openbare raadpleging werd vrijgegeven, heeft als doel Zuid-Afrika een leidende positie te geven in de Afrikaanse innovatie op het gebied van kunstmatige intelligentie.

Nadat News24 echter talloze citaten en verwijzingen ontdekte die niet bestonden, zag het Zuid-Afrikaanse ministerie voor digitale communicatie en technologie (DCDT) zich genoodzaakt het hele document in te trekken.

Illustratieve afbeelding. Foto: Reuters

DCDT-minister Solly Malatsi erkende dat er een "grote blunder" was begaan bij het samenstellen van de documenten. Hij verklaarde dat eerdere interne audits het probleem niet hadden opgemerkt en gaf toe dat er een gebrek aan transparantie was in het gebruik van AI voor het samenstellen van het referentiemateriaal.

De Zuid-Afrikaanse regering streeft ernaar de herziene versie in november 2026 af te ronden voor goedkeuring door het kabinet, alvorens deze in januari 2027 ter publieke raadpleging vrij te geven. Het nieuwe beoordelingspanel, bestaande uit zeven deskundigen, heeft de taak alle documenten te onderzoeken en onjuiste bronnen te verwijderen of te vervangen.

Jeanette Morwane, directeur Digitale Innovatie bij DCDT, zei dat het herzieningsproces zich zal richten op het waarborgen van de transparantie en de academische geloofwaardigheid van de tekst. "Het expertpanel zal elk onderdeel van de inhoud beoordelen voordat het aan de regering wordt voorgelegd", aldus Morwane.

Het incident leidde ook tot interne disciplinaire maatregelen. Twee betrokken functionarissen werden geschorst in afwachting van een onderzoek. Directeur-generaal Nonkqubela Jordan-Dyani van DCDT omschreef het incident als "zeer betreurenswaardig" en zei dat het intrekken van het ontwerp noodzakelijk was om de geloofwaardigheid van het agentschap te herstellen.

Het schandaal in Zuid-Afrika weerspiegelt de groeiende uitdaging die ontstaat nu AI steeds vaker wordt ingezet bij het vormgeven van overheidsbeleid. Genererende tools kunnen helpen bij het sneller verzamelen van gegevens, maar ze brengen ook het risico met zich mee van het genereren van misinformatie of fictieve bronnen als deze niet goed door mensen worden geverifieerd.

Waarnemers zijn van mening dat dit incident dient als een vroege waarschuwing voor veel regeringen wereldwijd die AI-strategieën nastreven. Naarmate kunstmatige intelligentie een steeds grotere rol speelt in het bestuur, zullen eisen op het gebied van transparantie, gegevensverificatie en verantwoording waarschijnlijk cruciaal worden.

Volgens Reuters

Bron: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html