Africa de Sud își revizuiește politica privind inteligența artificială după scandalul surselor false.

Africa de Sud își revizuiește politica națională privind inteligența artificială după ce un proiect anterior a fost retras din cauza numeroaselor citate fabricate despre care se presupune că ar fi fost create de inteligența artificială, ceea ce a stârnit dezbateri cu privire la credibilitatea politicii publice.

Guvernul sud-african a înființat recent un grup de experți independenți pentru a examina proiectul de politică națională privind inteligența artificială în urma unui scandal care a implicat documente care conțineau referințe fictive.

Acesta este unul dintre rarele cazuri în care un document de reglementare privind inteligența artificială este suspectat că utilizează conținut generat de inteligență artificială care nu este verificat.

Proiectul, lansat în aprilie pentru comentarii publice, își propune să facă din Africa de Sud un lider în inovația în domeniul inteligenței artificiale africane.

Totuși, după ce News24 a descoperit numeroase citări și referințe care nu existau, Departamentul pentru Comunicații Digitale și Tehnologie (DCDT) din Africa de Sud a fost nevoit să retragă întregul document.

Imagine ilustrativă. Foto: Reuters

Ministrul DCDT, Solly Malatsi, a recunoscut că a avut loc „o omisiune majoră” în procesul de compilare a documentelor. El a declarat că auditurile interne anterioare nu au detectat problema și a recunoscut lipsa de transparență în utilizarea inteligenței artificiale pentru compilarea materialelor de referință.

Guvernul sud-african își propune acum să finalizeze versiunea revizuită până în noiembrie 2026 pentru aprobarea Cabinetului, înainte de a o publica pentru comentarii publice în ianuarie 2027. Noul grup de experți, format din șapte experți, are sarcina de a examina toate documentele și de a elimina sau înlocui sursele inexacte.

Jeanette Morwane, directoarea departamentului de inovație digitală din cadrul DCDT, a declarat că procesul de revizuire se va concentra pe asigurarea transparenței și a credibilității academice a textului. „Comitetul de experți va analiza fiecare secțiune a conținutului înainte de a-l trimite Guvernului”, a spus ea.

Incidentul a dus și la măsuri disciplinare interne. Doi oficiali implicați au fost suspendați în așteptarea unei anchete. Directorul general al DCDT, Nonkqubela Jordan-Dyani, a descris incidentul ca fiind „foarte regretabil” și a declarat că retragerea proiectului a fost necesară pentru a restabili credibilitatea agenției.

Scandalul din Africa de Sud reflectă provocarea tot mai mare pe măsură ce inteligența artificială începe să fie utilizată în elaborarea politicilor publice. Instrumentele de generare pot ajuta la agregarea mai rapidă a datelor, dar riscă și să genereze dezinformări sau surse fictive dacă nu sunt verificate corespunzător de către oameni.

Observatorii consideră că acest incident servește drept un avertisment timpuriu pentru multe guverne care adoptă strategii de inteligență artificială la nivel global. Pe măsură ce inteligența artificială se implică din ce în ce mai mult în guvernare, cerințele de transparență, verificare a datelor și responsabilitate vor deveni probabil cruciale.

Potrivit Reuters

Sursă: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html