Od obrazów, przez filmy, po piosenki z AI: uważaj na „tornado” treści z AI w mediach społecznościowych

trí tuệ nhân tạo - Ảnh 1. — Coraz więcej zdjęć i filmów edytowanych i dodawanych przez sztuczną inteligencję jest publikowanych w mediach społecznościowych w celu przyciągnięcia widzów – zdjęcie: DUC THIEN

Kiedyś, aby stworzyć fałszywe zdjęcie, przeciętny użytkownik musiał zatrudnić ekspertów od Photoshopa. Dziś, dzięki sztucznej inteligencji, w mniej niż 5 minut i przy odrobinie podstawowych umiejętności, zbiór fałszywych zdjęć może pojawić się wszędzie.

Kiedy sztuczna inteligencja tworzy obrazy, filmy, piosenki... tak prawdziwe, że trudno w to uwierzyć

Pani Hoan My (HCMC) – pracownica działu komunikacji – regularnie przeglądająca Facebooka, stwierdziła, że użytkownicy zamieszczają coraz więcej treści wykorzystujących narzędzia sztucznej inteligencji.

„Wiele zdjęć publikowanych przez znajomych lub członków grup jest tak realistycznych, że nie byłabym w stanie stwierdzić, czy użyto sztucznej inteligencji, gdyby nie powiedzieli tego wprost. Coraz więcej filmów, od animacji, przez wyobrażenia, po krótkie filmy, a nawet filmy związane z wydarzeniami z życia realnego, jest tworzonych przez narzędzia sztucznej inteligencji, ale nie byłabym w stanie tego stwierdzić” – powiedziała pani My.

Nie tylko zdjęcia i filmy, nawet w serwisie społecznościowym YouTube, można znaleźć wiele piosenek wykonywanych lub komponowanych przez „śpiewaków AI”. Wielu użytkowników jest podekscytowanych tą nową funkcją i rywalizuje o to, by podzielić się nią ze znajomymi w mediach społecznościowych.

„Nie jestem w stanie stwierdzić, czy to piosenkarka AI, jeśli nie zostanie ogłoszona. Treści AI są coraz bardziej powszechne w cyberprzestrzeni Wietnamu. Zwykli użytkownicy, tacy jak ja, prawdopodobnie wkrótce nie będą już wiedzieć, które treści pochodzą od prawdziwych ludzi, które są tworzone przez AI, a które są nadzorowane przez AI” – powiedział Khanh Ha (HCMC).

Ostatnio na wielu platformach społecznościowych w Wietnamie pojawiły się filmy i transmisje na żywo, na których sprzedawano produkty osób niepełnosprawnych, dzięki czemu społeczność internetowa stała się bardziej życzliwa i skłonna do dzielenia się swoimi produktami.

Jednak później społeczność internetowa ujawniła wiele przypadków wykorzystania sztucznej inteligencji do przekształcania normalnych osób w osoby niepełnosprawne. Celem tej sztuczki jest wykorzystanie współczucia widzów do sprzedaży towarów lub dopuszczenia się oszustw.

Wielu ekspertów technologicznych twierdzi, że ostatnio w sieciach społecznościowych rośnie liczba kont publikujących filmy promocyjne ze zdjęciami osób niepełnosprawnych, chorych lub upośledzonych, aby wzbudzić współczucie. Jednak rzeczywistość pokazuje, że wiele z tych treści jest tworzonych lub edytowanych za pomocą narzędzi sztucznej inteligencji, które przekształcają zwykłych ludzi w osoby niepełnosprawne w celu osiągnięcia zysku lub oszustwa.

W rozmowie z Tuoi Tre, pan Milko Radotic, wiceprezes odpowiedzialny za region Azji i Pacyfiku w iProov – wiodącym na świecie dostawcy technologii uwierzytelniania biometrycznego – ostrzegł: „Nasze badania pokazują, że 99,9% uczestników nie potrafi rozpoznać deepfake’ów. Nawet dzisiejsze zaawansowane narzędzia do wykrywania napotykają wiele trudności”.

Zwiększenie oporu użytkowników cyfrowych

Pan Dang Huu Son – zastępca dyrektora Instytutu Badań Stosowanych i Rozwoju Zasobów Ludzkich AIOV, założyciel i dyrektor generalny firmy LovinBot AI – powiedział, że odkąd Google wprowadziło technologię AI Nano Banana, Veo 3; ByteDance wprowadził Seedream 4, a przedtem OpenAI wprowadziło GPT Image, rynek AI jest niezwykle dynamiczny i przyniósł wiele konsekwencji.

„Technologia nigdy nie była tak dostępna jak dzisiaj. To wszystko są niezwykle potężne modele sztucznej inteligencji, które potrafią „kopiować twarze” w prawie 90%, a nawet 99% w porównaniu z oryginalnym zdjęciem” – skomentował pan Son.

Jeśli kiedyś, aby stworzyć fałszywe zdjęcie, przeciętny użytkownik musiał zatrudnić do tego specjalistów od Photoshopa, to dziś, dzięki sztucznej inteligencji, w mniej niż 5 minut i przy wykorzystaniu podstawowych umiejętności, zestaw fałszywych zdjęć, fałszywy film, który można wyciąć i wkleić, a także dodać do niego efekty przypominające newsy, może rozprzestrzenić się z zawrotną prędkością.

„Fałszywe wiadomości są powtarzane wielokrotnie, występują w dużej liczbie i są łatwo dostępne, więc wiele osób, które stykają się z nimi każdego dnia, uwierzy, że są prawdziwe. Dlatego potrzebne są rozwiązania, które ograniczą powyższe problemy” – zauważył pan Son.

Według pana Trinh Nguyen Thien Phuoc – dyrektora ds. technologii w Gianty Vietnam Company – aby móc odróżnić treści generowane przez sztuczną inteligencję, potrzebne są trzy warstwy: (1) umiejętności weryfikacji użytkownika (wraz ze złotymi zasadami); (2) narzędzia techniczne, takie jak dane uwierzytelniające treści (C2PA), znaki wodne (SynthID, AudioSeal) i detektor deepfake; (3) proces koordynacji między stronami powiązanymi, takimi jak: platformy, operatorzy sieci, banki...

W szczególności należy bardzo szybko, bo w ciągu 30–60 sekund, stosować się do złotej zasady: nie klikać w dziwne linki, przejść do oficjalnej aplikacji/strony internetowej w celu weryfikacji i natychmiast przerwać działanie, gdy napotka się słowa kluczowe wymuszające działanie (OTP/przelew pieniężny/pilne).

Jednocześnie użytkownicy powinni zweryfikować informacje w dwóch niezależnych źródłach, zanim uwierzą; sprawdzić datę, godzinę i kontekst (stare wiadomości podane jako nowe); oddzwonić na oficjalny numer, który sami znaleźli, nie korzystać z numeru podanego przez innych; za pomocą zdjęć i filmów użytkownicy mogą wyszukiwać powiązane wyniki...

Wielu ekspertów uważa, że najskuteczniejszym sposobem na poradzenie sobie z falą fałszywych treści tworzonych przez sztuczną inteligencję jest podniesienie świadomości społecznej. Zamiast skupiać się wyłącznie na rozwiązaniach technicznych, należy tworzyć programy szkoleniowe, konkursy lub symulować sytuacje z życia wzięte, aby pomóc ludziom zmienić nawyki związane z przyswajaniem informacji.

Dla młodych ludzi, zwłaszcza studentów, łączenie konkursów online i kampanii medialnych z udziałem celebrytów lub KOL-ów może być naturalnym magnesem, który pomoże im uczyć się i zdobywać doświadczenia, a jednocześnie rozwijać umiejętność rozpoznawania fałszywych wiadomości i fałszywych filmów. Tymczasem osoby starsze, zwłaszcza na obszarach wiejskich, potrzebują bardziej znanych i intuicyjnych form, takich jak ilustrowane ulotki, filmy instruktażowe czy pokazy w domach kultury i podczas zajęć w społeczności.

„Podejście odpowiednie dla każdej grupy osób pomoże stworzyć solidne, długoterminowe podstawy świadomości, zamiast ograniczać się do działań krótkoterminowych. Na przykład niektóre jednostki opracowały rozszerzenia, które można zainstalować w przeglądarce Chrome, aby pomóc użytkownikom w weryfikacji wiadomości podczas surfowania po internecie lub w mediach społecznościowych…” – powiedział pan Dang Huu Son.

Wykorzystanie sztucznej inteligencji do wykrywania fałszywych AI

Niedawno firma Honor zintegrowała w swojej nowej linii telefonów funkcję wykrywania deepfake opartą na sztucznej inteligencji (AI). Funkcja ta analizuje obrazy i głosy w 3 sekundy, ostrzegając przed podróbkami bezpośrednio w aplikacjach takich jak Messenger, Zalo, Viber czy Google Meet, stając się „cyfrową tarczą” chroniącą użytkowników przed oszustwami wykorzystującymi zaawansowane technologie.

Wcześniej, we wrześniu 2025 r., MoMo ogłosiło współpracę z iProov w celu wdrożenia technologii Dynamic Liveness, która pomoże zweryfikować, czy użytkownicy są prawdziwi, mają prawidłową tożsamość i są obecni w momencie transakcji, zapobiegając w ten sposób oszustwom z wykorzystaniem deepfake, fałszywych filmów lub obrazów.

W sektorach wysokiego ryzyka, takich jak finanse, ten poziom bezpieczeństwa jest kluczowy, aby zapobiegać oszustwom, uniemożliwiać nieautoryzowany dostęp i utrzymywać zaufanie użytkowników do platformy.

Powrót do tematu

CNOTA

Source: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm