Dzięki szybkiemu rozwojowi, sztuczna inteligencja (AI) rewolucjonizuje wiele dziedzin – od opieki zdrowotnej, edukacji i biznesu po życie codzienne. Jednak wady tej technologii stanowią poważne wyzwanie dla zarządzania i kontrolowania informacji w cyberprzestrzeni.
Zalewani fałszywymi wiadomościami generowanymi przez sztuczną inteligencję.
Fałszywe wiadomości generowane przez sztuczną inteligencję są rozpowszechniane w mediach społecznościowych przede wszystkim w celu zdobycia wyświetleń, polubień i zaangażowania w sprzedaż online lub w celu osiągnięcia zysku za pośrednictwem platformy.
Twórcy fake newsów często wykorzystują aktualne trendy, które przyciągają uwagę opinii publicznej. Na przykład, po poważnym wypadku drogowym 17 września na targu Tan Long w gminie Lao Bao w prowincji Quang Tri , w którym zginęło 12 osób, w mediach społecznościowych pojawiły się poruszające zdjęcia, które wzruszyły wielu widzów do łez. Uznając te zdjęcia za stworzone przez sztuczną inteligencję, policja gminy Lao Bao wydała ostrzeżenie przed rozpowszechnianiem tych wprowadzających w błąd fałszywych zdjęć. Takie zachowanie nie tylko rozpowszechnia fałszywe informacje, ale także utrudnia śledztwa.
Podobnie, wykorzystując uwagę opinii publicznej wokół wywrócenia się łodzi turystycznej Green Bay 58 w zatoce Ha Long w prowincji Quang Ninh 19 lipca, w wyniku którego zginęły dziesiątki osób, wiele kont w mediach społecznościowych opublikowało poruszające zdjęcia i historie o ofiarach. Jednak znaczna część tych treści była fałszywa, stworzona za pomocą sztucznej inteligencji w celu manipulowania emocjami i przyciągnięcia interakcji użytkowników mediów społecznościowych. Co istotne, powszechne używanie fałszywych zdjęć z przesadną sympatią może dodatkowo traumatyzować rodziny ofiar.
Dzięki ciągłemu rozwojowi technologii AI, stworzenie angażującego filmu, idealnie dopasowanego do intencji użytkownika, zajmuje zaledwie kilka minut i wymaga użycia prostych poleceń. Wśród nich platformy AI nowej generacji, takie jak KlingAI, Veo 3 i Sora, cieszą się ogromną popularnością wśród użytkowników na całym świecie, w tym w Wietnamie.
Co więcej, technologia deepfake – połączenie głębokiego uczenia i fałszerstwa – jest również poważnym problemem na całym świecie, ponieważ może być wykorzystywana do tworzenia obrazów, dźwięków lub filmów, które wyglądają tak realistycznie, że bardzo trudno je rozpoznać jako fałszywe. W rezultacie, zarówno w Wietnamie, jak i na całym świecie, doszło do licznych oszustw związanych z tą technologią.
Generał porucznik Nguyen Minh Chinh, stały wiceprzewodniczący Narodowego Stowarzyszenia Cyberbezpieczeństwa, zauważył rosnący trend nadużywania sztucznej inteligencji do celów niezgodnych z prawem. W szczególności, AI jako usługa (narzędzia i aplikacje udostępniane przez AI) jest wykorzystywana przez cyberprzestępców do tworzenia złośliwego oprogramowania, podrabiania głosów, twarzy i tekstu... w celu dokonywania oszustw, cyberataków, włamań do systemów danych, a nawet destabilizacji bezpieczeństwa i niszczenia reputacji organizacji, firm i liderów.
Według pana Trana Ngoc Anha, dyrektora technicznego Hoa Binh Cyber Space Company Limited (CyPeace), jednym z zagrożeń dla użytkowników sztucznej inteligencji jest możliwość otrzymania dezinformacji generowanej przez samo narzędzie. Ponadto istnieje wiele innych problemów, takich jak wyciek poufnych informacji i danych osobowych.
W sieci rozpowszechniane są fałszywe zdjęcia, których celem jest „doprowadzenie widzów do płaczu”, dzięki czemu zyskują one polubienia i zwiększają interakcję (zrzut ekranu).
Zwiększanie odpowiedzialności użytkownika
Zanim zostaną wprowadzone środki technologiczne i prawne mające na celu ścisłą kontrolę rozwoju i wykorzystania sztucznej inteligencji, użytkownicy muszą aktywnie i odpowiedzialnie korzystać z tej technologii.
Ekspert ds. cyberbezpieczeństwa Vu Ngoc Son, przewodniczący Komitetu Technologicznego Narodowego Stowarzyszenia Cyberbezpieczeństwa, zwrócił uwagę, że to ludzie wykorzystują i używają sztucznej inteligencji, więc zarówno dobre, jak i złe strony sztucznej inteligencji są z nią ściśle powiązane. Jeśli użytkownicy są kompetentni i wykorzystują ją w dobrych celach, technologia wykorzysta jej mocne strony na swoją korzyść. Z drugiej strony, jeśli użytkownicy sztucznej inteligencji nie rozumieją jej lub wykorzystują ją do nielegalnych celów, może to mieć poważne konsekwencje. „Aby skutecznie wykorzystywać sztuczną inteligencję, należy skupić się na budowaniu zespołu i procesów. Sztuczna inteligencja zyskuje na wartości dopiero wtedy, gdy trafia w ręce tych, którzy potrafią ją opanować” – powiedział ekspert ds. cyberbezpieczeństwa.
Biorąc pod uwagę zagrożenia związane z technologią deepfake – wiodącym narzędziem ułatwiającym obecne cyberoszustwa – Ministerstwo Finansów podkreśliło podczas prac nad ustawą o inwestycjach i działalności gospodarczej, że branża technologii deepfake powinna być regulowana jako sektor działalności warunkowej, aby zapobiegać nadużyciom technologii powodującym zakłócenia w przepływie informacji i oszustwom. Według Ministerstwa Finansów, branża technologii deepfake jest obecnie jedną z nowych dziedzin o złożonych potencjalnych zagrożeniach dla bezpieczeństwa i porządku, a mimo to nie jest regulowana jako sektor działalności warunkowej.
Według prawnika Tran Anh Tuana (Izba Adwokacka w Hanoi), wykorzystywanie sztucznej inteligencji do tworzenia treści bez zezwolenia, a zwłaszcza do tworzenia fałszywych, sfabrykowanych lub oszukańczych informacji, może naruszać przepisy Kodeksu Cywilnego. Osoby naruszające te zasady mogą zostać ukarane grzywną administracyjną lub odszkodowaniem. W przypadkach o poważnych konsekwencjach może zostać pociągnięta do odpowiedzialności karnej. „Użytkownicy muszą zachować ostrożność, uzyskując dostęp do sztucznej inteligencji i korzystając z niej, bezwzględnie unikając wszelkich działań wykorzystujących sztuczną inteligencję do zdobywania wyświetleń lub polubień; powinni zwiększyć swoją osobistą odpowiedzialność i przestrzegać prawa podczas korzystania ze sztucznej inteligencji i uczestniczenia w środowisku online” – radzi prawnik Tuan.
Generał porucznik Nguyen Minh Chinh podkreślił, że kluczem do zrównoważonego rozwoju sztucznej inteligencji (AI) są zasoby ludzkie. Od badaczy, inżynierów, ekspertów ds. cyberbezpieczeństwa, po menedżerów i użytkowników, wszyscy muszą być w pełni wyposażeni w wiedzę, umiejętności, etykę i świadomość prawną. Według niego, to nie tylko zespół budujący i obsługujący systemy AI, ale także kluczowa siła w zapobieganiu, wykrywaniu i zwalczaniu przestępstw związanych z zaawansowanymi technologiami w cyberprzestrzeni.
Wietnam będzie miał ustawę o sztucznej inteligencji.
Podczas niedawnej krajowej konferencji naukowej poświęconej sztucznej inteligencji (AI), minister nauki i technologii Nguyen Manh Hung stwierdził, że AI otwiera ogromne możliwości, ale jednocześnie rodzi wiele problemów dotyczących etyki, zatrudnienia i zaufania społecznego. Dlatego rozwój AI musi być szybki, bezpieczny i humanitarny.
Według ministra Nguyen Manh Hunga, sztuczna inteligencja nie zastępuje ludzi, lecz im służy, działając jako ich asystent. Sztuczna inteligencja jest potężnym narzędziem, ale to ludzie podejmują decyzje; dlatego powinna wspierać, a nie zastępować, ludzkie myślenie, wartości i odpowiedzialność. „Ministerstwo Nauki i Technologii wyda krajowy kodeks etyczny dla sztucznej inteligencji, który będzie zharmonizowany z normami międzynarodowymi, ale dostosowany do wietnamskich realiów, a także opracuje prawo i strategię w zakresie sztucznej inteligencji” – oświadczył minister Nguyen Manh Hung.
Źródło: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm
Komentarz (0)