Przejrzystość produktów sztucznej inteligencji

Wiele dzisiejszych produktów wykorzystujących sztuczną inteligencję (AI) nie ujawnia poziomu ingerencji technologicznej, co utrudnia użytkownikom odróżnienie autentyczności od podróbek. W tej sytuacji jasne zdefiniowanie obowiązku transparentności i etykietowania produktów AI stało się pilnym wymogiem.

Stoisko wystawoweFPT poświęcone zastosowaniom sztucznej inteligencji w różnych dziedzinach.

Obecnie, od tworzenia treści wizualnych, dźwiękowych i tekstowych po automatyczne wspomaganie decyzji, wiele produktów AI jest nieoznakowanych i udostępnianych jako zwykłe treści. W rezultacie użytkownicy nie wiedzą, czy wchodzą w interakcję z treściami generowanymi przez ludzi, czy przez sztuczną inteligencję, i mogą wierzyć w dezinformację lub manipulację.

Na przykład salon kosmetyczny publikuje wygenerowaną przez sztuczną inteligencję reklamę z wizerunkiem modelki, co sprawia, że ​​klienci błędnie wierzą, że jest ona prawdziwa, ale po skorzystaniu z usługi odkrywają, że jakość nie jest taka, jak w reklamie. Bardziej niebezpieczne jest to, że sztuczna inteligencja tworzy fałszywe zdjęcia znanych osób, filmy symulujące wypowiedzi polityków lub artykuły stworzone przez sztuczną inteligencję, ale z nazwiskami prawdziwych osób, co szkodzi reputacji agencji i organizacji.

Ponadto brak mechanizmu etykietowania zmniejsza zaufanie użytkowników do platform cyfrowych i produktów AI. Środowisko cyfrowe, które nie jest transparentne w kwestii pochodzenia treści, sprawi, że użytkownicy będą podejrzliwi i zdystansowani. Tymczasem większość wietnamskich użytkowników nie ma nawyku identyfikowania i weryfikowania pochodzenia treści, a narzędzia techniczne do wykrywania produktów AI są ograniczone.

Jasne zdefiniowanie obowiązków w zakresie przejrzystości i etykietowania to nie tylko etyczny wymóg technologiczny, ale także podstawa prawna chroniąca zarówno użytkowników, jak i twórców produktów AI. Aby sprostać temu wymogowi, Ministerstwo Nauki i Technologii opracowuje ustawę o sztucznej inteligencji, której artykuł 12 stanowi „Przejrzystość, etykietowanie i rozliczalność”.

Zgodnie z tym, etykietowanie polega na zastosowaniu środków technicznych w celu wyraźnego, łatwo rozpoznawalnego i czytelnego dla maszyn powiadomienia, że ​​treść (tekst, obraz, dźwięk, wideo) została stworzona lub znacząco zmodyfikowana przez systemy sztucznej inteligencji. Powiadomienie musi zostać opublikowane, gdy treść jest szeroko dostępna.

Rozporządzenie to wprowadza obowiązek etykietowania produktów stworzonych lub edytowanych przez sztuczną inteligencję. Ma ono na celu zapewnienie przejrzystości przestrzeni cyfrowej, ochronę konsumentów oraz wymaganie od dostawców i użytkowników wspólnej odpowiedzialności w przypadku, gdy brak etykiety spowoduje zamieszanie lub szkodę.

W przypadku treści symulujących prawdziwe osoby, obiekty, miejsca lub wydarzenia, projekt ustawy stanowi, że dostawcy muszą stosować środki w celu jednoznacznego zidentyfikowania, że ​​treść została stworzona przez sztuczną inteligencję, oraz zapewnić możliwość uwierzytelnienia i śledzenia jej pochodzenia. Jest to uważane za ważny krok w zarządzaniu technologią sztucznej inteligencji, zgodnie z międzynarodowymi trendami, kiedy to Unia Europejska (UE), Stany Zjednoczone, Japonia i Korea Południowa wydały podobne przepisy.

Pomimo zgody co do konieczności, wielu ekspertów i przedsiębiorców uważa, że ​​przepisy dotyczące etykietowania zawarte w projekcie ustawy powinny być bardziej szczegółowe. Prawnik Hoang Le Quan z wietnamskiej kancelarii prawnej Lexcomm Vietnam LLC (Vietnam Commercial Legal Limited Liability Law Firm) uważa, że ​​konieczne jest wyjaśnienie, czy dostawcy sztucznej inteligencji mogą sami decydować o formie etykietowania, czy też muszą stosować się do wytycznych rządu.

Jeśli mają zostać wprowadzone wytyczne, muszą być one jasne i gwarantować zgodność z normami międzynarodowymi, aby uniknąć sytuacji, w której wymagania Wietnamu byłyby zupełnie inne lub gdyby nałożono na nie nowe obowiązki, zwłaszcza na dostawców międzynarodowych. Mogłoby to wpłynąć na konkurencyjność Wietnamu w zakresie zastosowań i rozwoju sztucznej inteligencji w porównaniu z innymi rynkami, takimi jak Unia Europejska (UE), Korea Południowa czy Stany Zjednoczone.

Niektóre opinie podkreślają potrzebę jasnego określenia zakresu i poziomu zastosowania, czy wszystkie treści zawierające elementy sztucznej inteligencji muszą być oznaczone, czy tylko produkty stworzone w całości przez sztuczną inteligencję lub w znacznym stopniu przez nią ingerujące. Pan Tran Van Tri, dyrektor Vietnam Law Media Joint Stock Company (LuatVietnam.vn), stwierdził, że jeśli treść zawiera tylko niewielką część elementów wykorzystujących sztuczną inteligencję, czy konieczne jest jej oznaczenie, czy nie? Konieczne jest jasne określenie, czy treść została stworzona przy pomocy sztucznej inteligencji, czy też w całości przez nią.

W branży rozrywkowej niektóre firmy chcą elastycznego mechanizmu zwalniającego produkty z AI z obowiązku sztywnego etykietowania, a zamiast tego stosują ostrzeżenia lub transparentne samoujawnianie w zależności od poziomu wykorzystania. Sztuczna inteligencja jest szeroko wykorzystywana do ulepszania dźwięku, obrazu i efektów. Gdyby wszystkie produkty były objęte obowiązkiem etykietowania, koszty i procedury wzrosłyby, co ograniczyłoby kreatywność.

Szef Ministerstwa Nauki i Technologii stwierdził, że projekt ustawy o sztucznej inteligencji ma na celu znalezienie rozsądnej równowagi między zarządzaniem a wspieraniem rozwoju, zapewniając przejrzystość, wykonalność i dążąc do standardów międzynarodowych. Celem etykietowania jest wyraźne rozgraniczenie między treściami tworzonymi przez ludzi a treściami generowanymi przez maszyny, unikając skrajności, czyli luźnego zarządzania lub nadmiernego zaostrzania przepisów, tak aby technologia mogła być rozwijana w przejrzystych i odpowiedzialnych ramach.

HA LINH

Źródło: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html