Zapobieganie przekraczaniu granic etycznych przez technologię

Dzięki szybkiemu tempu rozwoju, sztuczna inteligencja (AI) wywołuje „rewolucję” w wielu dziedzinach – od opieki zdrowotnej, edukacji , biznesu… po życie codzienne. Jednak negatywne aspekty tej technologii stanowią poważne wyzwanie dla zarządzania i kontroli informacji w cyberprzestrzeni.

Zalewani fałszywymi wiadomościami generowanymi przez sztuczną inteligencję

Fałszywe wiadomości generowane przez sztuczną inteligencję są rozpowszechniane w mediach społecznościowych głównie w celu zdobycia wyświetleń, polubień, zwiększenia interakcji, sprzedaży online lub zysku za pośrednictwem platformy.

Osoby tworzące fake newsy często „śledzą” aktualne, gorące tematy, które budzą zainteresowanie opinii publicznej. Na przykład, po poważnym wypadku drogowym 17 września na targu Tan Long w gminie Lao Bao w prowincji Quang Tri , w którym 12 osób zostało rannych i poniosło śmierć, w mediach społecznościowych pojawiło się wiele poruszających zdjęć, które wzruszyły wielu widzów. Stwierdzając, że zdjęcia te zostały stworzone przez sztuczną inteligencję, policja gminy Lao Bao wydała ostrzeżenie przed rozpowszechnianiem fałszywych zdjęć, które powodują nieporozumienia. Działanie to nie tylko przyczynia się do rozpowszechniania fałszywych informacji, ale także utrudnia śledztwo.

Podobnie, wykorzystując uwagę opinii publicznej wokół wywróconego statku turystycznego Blue Bay 58 w zatoce Ha Long w prowincji Quang Ninh 19 lipca, w wyniku którego zginęły dziesiątki osób, wiele kont w mediach społecznościowych opublikowało wzruszające zdjęcia i historie o ofiarach. Jednak wiele z tych treści było fałszywych, stworzonych z wykorzystaniem sztucznej inteligencji, aby „trafić” w emocje i przyciągnąć interakcje użytkowników mediów społecznościowych. Co istotne, szeroko rozpowszechnione fałszywe zdjęcia z przesadnie empatyczną treścią mogły wywołać dalszy uraz emocjonalny u rodzin ofiar.

Dzięki rozwojowi technologii sztucznej inteligencji (AI) w ciągu kilku minut, za pomocą prostych poleceń, można stworzyć film o atrakcyjnej treści, zgodny z intencjami użytkownika. Platformy AI nowej generacji, takie jak KlingAI, Veo 3, Sora..., cieszą się ogromną popularnością wśród użytkowników na całym świecie, w tym w Wietnamie.

Ponadto technologia deepfake – połączenie głębokiego uczenia i fałszerstwa – również wzbudziła ogromne zaniepokojenie na całym świecie, ponieważ może być wykorzystywana do tworzenia realistycznych obrazów, dźwięków lub filmów, które bardzo trudno rozpoznać jako fałszywe. W rezultacie, zarówno w Wietnamie, jak i na całym świecie, doszło do serii oszustw związanych z tą technologią.

Generał porucznik Nguyen Minh Chinh, stały wiceprezes Narodowego Stowarzyszenia Cyberbezpieczeństwa, zauważył, że obserwuje się tendencję do nadużywania sztucznej inteligencji do celów niezgodnych z prawem. W szczególności AI-as-a-Service (usługi dostarczające narzędzia i aplikacje AI – PV) jest wykorzystywana przez cyberprzestępców do tworzenia złośliwego kodu, fałszywych głosów, twarzy, tekstów… w celu popełniania oszustw, ataków sieciowych, infiltracji systemów danych, a nawet powodowania niestabilności bezpieczeństwa i niszczenia reputacji organizacji, firm i liderów.

Według pana Trana Ngoc Anha, dyrektora technicznego CyberPeace Company Limited (CyPeace), jednym z zagrożeń dla użytkowników sztucznej inteligencji jest możliwość otrzymania fałszywych informacji generowanych przez samo to narzędzie. Poza tym istnieje szereg innych problemów, takich jak ujawnienie informacji poufnych, danych osobowych...

Zapobieganie przekraczaniu granic etycznych przez technologię - Zdjęcie 1.

Zapobieganie przekraczaniu granic etycznych przez technologię - Zdjęcie 2.

W Internecie rozpowszechniane są fałszywe obrazy, które mają „wywoływać łzy” u widzów, przyciągając w ten sposób polubienia i zwiększając liczbę interakcji (zrzut ekranu)

Zwiększenie odpowiedzialności użytkownika

Zanim powstaną środki technologiczne i prawne mające na celu ścisłą kontrolę rozwoju i wykorzystania sztucznej inteligencji, użytkownicy muszą aktywnie i odpowiedzialnie korzystać z tej technologii.

Ekspert ds. cyberbezpieczeństwa Vu Ngoc Son, kierownik działu technologii w Narodowym Stowarzyszeniu Cyberbezpieczeństwa, zwrócił uwagę, że to ludzie wykorzystują i wykorzystują sztuczną inteligencję, więc dobre i złe strony sztucznej inteligencji są ściśle z nią związane. Jeśli użytkownicy są odpowiednio wykwalifikowani i wykorzystują ją w dobrych celach, technologia będzie promować swoje mocne strony. Z drugiej strony, jeśli użytkownicy sztucznej inteligencji nie rozumieją jej lub wykorzystują ją do nielegalnych celów, może to mieć poważne konsekwencje. „Aby skutecznie wykorzystywać sztuczną inteligencję, należy skupić się na budowaniu zespołów i procesów. Sztuczna inteligencja zyskuje na wartości tylko wtedy, gdy trafia w ręce tych, którzy potrafią ją opanować” – powiedział ekspert ds. cyberbezpieczeństwa.

W obliczu niebezpieczeństwa deepfake'a - wiodącego narzędzia oszustw technologicznych dzisiaj - Ministerstwo Finansów w trakcie prac nad Ustawą o inwestycjach i działalności gospodarczej podkreśliło również: Działalność technologiczna deepfake musi być regulowana jako warunkowa linia biznesowa, aby zapobiegać nadużyciom technologicznym powodującym zakłócenia informacji, oszustwa... Według Ministerstwa Finansów, obecnie działalność technologiczna deepfake jest jedną z nowych dziedzin, stwarzającą złożone ryzyko dla bezpieczeństwa i porządku, ale nie jest regulowana jako warunkowa linia biznesowa.

Według prawnika Tran Anh Tuana (Izba Adwokacka w Hanoi), wykorzystanie sztucznej inteligencji do tworzenia treści bez zezwolenia, a zwłaszcza do tworzenia fałszywych, podrobionych lub oszukańczych informacji, może naruszać przepisy Kodeksu Cywilnego. W związku z tym osoby naruszające prawo będą podlegać sankcjom administracyjnym lub żądać odszkodowania. W przypadku poważnych konsekwencji, może zostać pociągnięte do odpowiedzialności karnej. „Użytkownicy muszą zachować ostrożność, korzystając ze sztucznej inteligencji, bezwzględnie unikać wykorzystywania jej do pozyskiwania wyświetleń i polubień; zwiększyć swoją osobistą odpowiedzialność, przestrzegać prawa podczas korzystania ze sztucznej inteligencji, a także podczas korzystania z internetu” – zalecił prawnik Tuan.

Generał porucznik Nguyen Minh Chinh podkreślił, że kluczowym czynnikiem zrównoważonego rozwoju sztucznej inteligencji (AI) są zasoby ludzkie. Od badaczy, inżynierów, ekspertów ds. cyberbezpieczeństwa, po menedżerów i użytkowników – wszyscy muszą być w pełni wyposażeni w wiedzę, umiejętności, etykę i świadomość prawną. Według pana Chinha, to nie tylko zespół budujący i obsługujący systemy AI, ale także kluczowa siła w zapobieganiu, wykrywaniu i zwalczaniu przestępstw związanych z zaawansowanymi technologiami w cyberprzestrzeni.

Wietnam będzie miał ustawę o sztucznej inteligencji

Na niedawnej krajowej konferencji naukowej poświęconej sztucznej inteligencji (AI), minister nauki i technologii Nguyen Manh Hung stwierdził, że AI otwiera ogromne możliwości, ale jednocześnie rodzi wiele problemów dotyczących etyki, zatrudnienia i zaufania społecznego. Dlatego AI musi być rozwijana szybko, bezpiecznie i w sposób humanitarny.

Według ministra Nguyen Manh Hunga, sztuczna inteligencja nie zastępuje człowieka, lecz mu służy, jest jego asystentem. Sztuczna inteligencja jest potężnym narzędziem, ale to ludzie podejmują decyzje, dlatego niech sztuczna inteligencja wspiera, a nie zastępuje ludzkie myślenie, wartości i odpowiedzialność. „Ministerstwo Nauki i Technologii wyda krajowy Kodeks Etyki Sztucznej Inteligencji, zgodny z międzynarodowymi standardami, ale dostosowany do wietnamskich praktyk, a jednocześnie opracuje prawo i strategię w zakresie sztucznej inteligencji” – poinformował minister Nguyen Manh Hung.

Źródło: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm