Südafrika überarbeitet KI-Politik nach Skandal um gefälschte Quellen.

Südafrika überarbeitet seine nationale Politik zur künstlichen Intelligenz, nachdem ein vorheriger Entwurf wegen zahlreicher angeblich von KI erstellter, gefälschter Zitate zurückgezogen wurde, was eine Debatte über die Glaubwürdigkeit der öffentlichen Politik auslöste.

Die südafrikanische Regierung hat soeben ein unabhängiges Expertengremium eingesetzt, um den Entwurf der nationalen Strategie für künstliche Intelligenz zu überprüfen, nachdem ein Skandal um Dokumente mit fiktiven Angaben aufgedeckt wurde.

Dies ist einer der seltenen Fälle, in denen der Verdacht besteht, dass ein regulatorisches Dokument zum Thema KI KI-generierte Inhalte verwendet, die nicht verifiziert wurden.

Der im April zur öffentlichen Kommentierung freigegebene Entwurf zielt darauf ab, Südafrika zu einem führenden Zentrum für KI-Innovationen in Afrika zu machen.

Nachdem News24 jedoch zahlreiche nicht existierende Zitate und Verweise entdeckt hatte, war das südafrikanische Ministerium für digitale Kommunikation und Technologie (DCDT) gezwungen, das gesamte Dokument zurückzuziehen.

Illustratives Bild. Foto: Reuters

DCDT-Minister Solly Malatsi räumte ein, dass es im Prozess der Dokumentenerstellung zu einem schwerwiegenden Fehler gekommen sei. Er erklärte, dass frühere interne Prüfungen das Problem nicht aufgedeckt hätten, und gab zu, dass es bei der Verwendung von KI zur Zusammenstellung der Referenzmaterialien an Transparenz gemangelt habe.

Die südafrikanische Regierung strebt nun an, die überarbeitete Fassung bis November 2026 zur Genehmigung durch das Kabinett fertigzustellen, bevor sie im Januar 2027 zur öffentlichen Kommentierung freigegeben wird. Das neue, aus sieben Experten bestehende Prüfungsgremium ist damit beauftragt, alle Dokumente zu prüfen und ungenaue Quellen zu entfernen oder zu ersetzen.

Jeanette Morwane, Leiterin der Abteilung für digitale Innovation bei DCDT, erklärte, der Überarbeitungsprozess werde sich auf die Transparenz und wissenschaftliche Glaubwürdigkeit des Textes konzentrieren. „Das Expertengremium wird jeden Abschnitt des Inhalts prüfen, bevor er der Regierung vorgelegt wird“, sagte sie.

Der Vorfall zog auch interne Disziplinarmaßnahmen nach sich. Zwei beteiligte Beamte wurden bis zum Abschluss der Untersuchung suspendiert. DCDT-Generaldirektorin Nonkqubela Jordan-Dyani bezeichnete den Vorfall als „sehr bedauerlich“ und erklärte, die Rücknahme des Entwurfs sei notwendig gewesen, um die Glaubwürdigkeit der Behörde wiederherzustellen.

Der Skandal in Südafrika verdeutlicht die wachsende Herausforderung, die mit dem Einsatz von KI in der öffentlichen Politik einhergeht. Generierungstools können zwar eine schnellere Datenaggregation ermöglichen, bergen aber auch das Risiko, Fehlinformationen oder fiktive Quellen zu erzeugen, wenn sie nicht von Menschen sorgfältig geprüft werden.

Beobachter sehen in diesem Vorfall eine frühe Warnung für viele Regierungen weltweit, die KI-Strategien verfolgen. Da künstliche Intelligenz zunehmend in die Regierungsführung eingebunden wird, dürften Forderungen nach Transparenz, Datenverifizierung und Rechenschaftspflicht entscheidend werden.

Laut Reuters

Quelle: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html