Південна Африка переглядає політику щодо штучного інтелекту після скандалу з фейковими джерелами.

Південна Африка переглядає свою національну політику щодо штучного інтелекту після того, як попередній проєкт було відкликано через численні сфабриковані цитати, нібито створені ШІ, що викликало дискусії щодо достовірності державної політики.

Уряд Південної Африки щойно створив незалежну групу експертів для розгляду проекту національної політики щодо штучного інтелекту після скандалу, пов'язаного з документами, що містять вигадані посилання.

Це один із рідкісних випадків, коли нормативний документ щодо штучного інтелекту підозрюється у використанні контенту, створеного штучним інтелектом, який не пройшов перевірку.

Проект, опублікований у квітні для громадського обговорення, має на меті зробити Південну Африку лідером в африканських інноваціях у сфері штучного інтелекту.

Однак, після того, як News24 виявив численні цитати та посилання, яких не існує, Департамент цифрових комунікацій та технологій Південної Африки (DCDT) був змушений відкликати весь документ.

Ілюстративне зображення. Фото: Reuters

Міністр DCDT Соллі Малаці визнав, що в процесі складання документів стався «суттєвий недолік». Він заявив, що попередні внутрішні аудити не виявили проблеми, і визнав відсутність прозорості у використанні штучного інтелекту для складання довідкових матеріалів.

Уряд Південної Африки зараз прагне завершити переглянуту версію до листопада 2026 року для затвердження Кабінетом міністрів, перш ніж опублікувати її для громадського обговорення в січні 2027 року. Нова експертна комісія, що складається з семи експертів, має завдання вивчити всі документи та видалити або замінити неточні джерела.

Жанетт Морвейн, директорка з цифрових інновацій у DCDT, сказала, що процес перегляду буде зосереджений на забезпеченні прозорості та академічної достовірності тексту. «Експертна група перегляне кожен розділ змісту, перш ніж подати його уряду», – сказала вона.

Цей інцидент також призвів до внутрішніх дисциплінарних заходів. Двох причетних посадовців було відсторонено від роботи до завершення розслідування. Генеральний директор DCDT Нонккубела Джордан-Дьяні назвала інцидент «дуже прикрим» і заявила, що відкликання пропозицій було необхідним для відновлення довіри до агентства.

Скандал у Південній Африці відображає зростаючу проблему, оскільки штучний інтелект починає використовуватися в державній політиці. Інструменти генерації можуть допомогти у швидшій агрегації даних, але вони також ризикують створювати дезінформацію або фіктивні джерела, якщо їх належним чином не перевірять люди.

Спостерігачі вважають, що цей інцидент служить раннім попередженням для багатьох урядів, які впроваджують стратегії штучного інтелекту в усьому світі. Оскільки штучний інтелект дедалі більше залучається до управління, вимоги до прозорості, перевірки даних та підзвітності, ймовірно, стануть вирішальними.

За даними Reuters

Джерело: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html