Republika Południowej Afryki zmienia politykę dotyczącą sztucznej inteligencji po skandalu związanym z fałszywymi źródłami informacji.

Republika Południowej Afryki dokonuje rewizji swojej polityki krajowej w zakresie sztucznej inteligencji po wycofaniu poprzedniego projektu z powodu licznych sfabrykowanych cytatów rzekomo stworzonych przez sztuczną inteligencję, co wywołało debatę na temat wiarygodności polityki publicznej.

Rząd Republiki Południowej Afryki powołał właśnie niezależny panel ekspertów, który zajmie się przeglądem projektu krajowej polityki w zakresie sztucznej inteligencji w następstwie skandalu związanego z dokumentami zawierającymi fikcyjne odniesienia.

To jeden z nielicznych przypadków, w których podejrzewa się, że dokument regulacyjny dotyczący sztucznej inteligencji wykorzystuje treści wygenerowane przez sztuczną inteligencję, które nie zostały zweryfikowane.

Projekt, opublikowany w kwietniu w celu umożliwienia konsultacji społecznych, ma na celu uczynienie z RPA lidera w dziedzinie innowacji w dziedzinie sztucznej inteligencji w Afryce.

Jednak po odkryciu przez serwis News24 licznych cytatów i odniesień, które nie istniały, południowoafrykański Departament Komunikacji Cyfrowej i Technologii (DCDT) zmuszony był wycofać cały dokument.

Zdjęcie ilustracyjne. Zdjęcie: Reuters

Minister DCDT, Solly Malatsi, przyznał, że w procesie kompilacji dokumentów doszło do „poważnego niedopatrzenia”. Stwierdził, że poprzednie audyty wewnętrzne nie wykryły problemu i przyznał się do braku przejrzystości w wykorzystaniu sztucznej inteligencji do kompilacji materiałów referencyjnych.

Rząd Republiki Południowej Afryki zamierza obecnie sfinalizować zrewidowaną wersję dokumentu do listopada 2026 r. w celu zatwierdzenia przez Radę Ministrów, a następnie udostępnić ją do konsultacji publicznych w styczniu 2027 r. Nowy panel kontrolny, złożony z siedmiu ekspertów, ma za zadanie zbadać wszystkie dokumenty i usunąć lub zastąpić nieprawdziwe źródła.

Jeanette Morwane, dyrektor ds. innowacji cyfrowych w DCDT, powiedziała, że ​​proces rewizji będzie koncentrował się na zapewnieniu przejrzystości i wiarygodności naukowej tekstu. „Panel ekspertów dokona przeglądu każdej sekcji treści przed przekazaniem jej rządowi” – ​​dodała.

Incydent doprowadził również do wszczęcia wewnętrznych działań dyscyplinarnych. Dwóch zaangażowanych w niego urzędników zostało zawieszonych w obowiązkach do czasu zakończenia dochodzenia. Dyrektor generalna DCDT, Nonkqubela Jordan-Dyani, określiła incydent jako „godny ubolewania” i stwierdziła, że ​​wycofanie poboru było konieczne dla przywrócenia wiarygodności agencji.

Skandal w RPA odzwierciedla rosnące wyzwanie, jakim jest wykorzystywanie sztucznej inteligencji w procesie kształtowania polityki publicznej. Narzędzia do generowania danych mogą pomóc w szybszej agregacji danych, ale wiążą się również z ryzykiem generowania dezinformacji lub fikcyjnych źródeł, jeśli nie zostaną odpowiednio zweryfikowane przez ludzi.

Obserwatorzy uważają, że ten incydent stanowi wczesne ostrzeżenie dla wielu rządów realizujących globalne strategie w zakresie sztucznej inteligencji. Wraz ze wzrostem udziału sztucznej inteligencji w zarządzaniu, zapotrzebowanie na przejrzystość, weryfikację danych i rozliczalność prawdopodobnie nabierze kluczowego znaczenia.

Według Reutersa

Source: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html