Zdjęcia i filmy AI zalewają Facebooka: pozornie nieszkodliwe, ale niezwykle niebezpieczne

Przeglądając na Facebooku zdjęcie pary żołnierzy trzymających czworaczki, 42-letnia pani Linh z przyzwyczajenia skomentowała: „Gratulacje dla was obojga”. Jednak natychmiast to wycofała, ponieważ czuła, że ​​„coś jest nie tak”.

Przyglądając się ponownie, zdała sobie sprawę, że to tylko zdjęcie sztucznej inteligencji wykorzystane przez stronę na Facebooku do zilustrowania sentymentalnego wpisu. Warto wspomnieć, że to już drugi raz, kiedy sztuczna inteligencja „prawie” ją oszukała. Wcześniej pomyliła też film „emeryci spotykający się z letnimi wczasowiczami” z prawdziwymi ludźmi i prawdziwymi wydarzeniami.

Pracując w branży medialnej i mając regularny kontakt z treściami dotyczącymi sztucznej inteligencji, pani Linh musiała przyznać, że technologia ta rozwinęła się tak szybko i w tak zaawansowany sposób, że trudno jest odróżnić prawdę od fałszu.

Zdjęcie, które stało się viralem na Facebooku, zostało stworzone przez sztuczną inteligencję. Zrzut ekranu.

Eksperci również zgadzają się z tym poglądem. Narzędzia takie jak Google Veo 3, Kling AI, DALL·E 3, Midjourney... osiągnęły zdolność tworzenia niezwykle realistycznych obrazów i filmów.

Pan Do Nhu Lam, dyrektor ds. szkoleń w Instytucie Technologii Blockchain i Sztucznej Inteligencji ABAII, podkreślił, że dzięki technologii multimodalnej i zaawansowanym modelom językowym narzędzia te potrafią synchronizować obrazy, dźwięki, mimikę twarzy i naturalne ruchy, tworząc niezwykle przekonujące produkty.

Pan Do Nhu Lam, dyrektor ds. szkoleń w Instytucie Technologii Blockchain i Sztucznej Inteligencji ABAII, powiedział, że zaawansowana technologia sztucznej inteligencji przynosi bardzo przekonujące produkty. Zdjęcie: NVCC

Pan Lam zauważył, że postęp sztucznej inteligencji otwiera ogromny potencjał w takich dziedzinach jak tworzenie treści, reklama, rozrywka i edukacja . Jednak ta „realistyczna” zdolność do odtwarzania stwarza również wiele wyzwań w zakresie etyki, kontroli i bezpieczeństwa informacji, ponieważ granica między rzeczywistością a wirtualnością coraz bardziej się zaciera.

Post na Facebooku, który zobaczyła pani Linh, przyciągnął prawie 300 000 interakcji i ponad 16 000 komentarzy. Wielu użytkowników rzuciło się z gratulacjami lub wyrazili swoje uczucia, nie wiedząc, że to tylko ilustracja sztucznej inteligencji. Niektórzy bardziej „trzeźwi” krytykowali „internautów za to, że są zbyt naiwni”, by dać się oszukać sztucznej inteligencji.

Na grupach i forach na Facebooku nietrudno zobaczyć filmy tworzone i udostępniane przez użytkowników za pomocą sztucznej inteligencji. W szczególności pojawienie się Google Veo 3 znacząco poprawiło jakość filmów, zwłaszcza głosu dopasowanego do kształtu ust postaci. Jeśli nie będziesz uważnie oglądać, widzowie mogą łatwo się pogubić.

Zachowanie zdrowego rozsądku w dobie sztucznej inteligencji

Zdjęcia i filmy wykonane przez sztuczną inteligencję są trudne do rozróżnienia, co stwarza duże ryzyko dla użytkowników, zwłaszcza grup wrażliwych, które nie znają się na technologii. Według Vu Thanh Thanga, dyrektora ds. sztucznej inteligencji (CAIO) w SCS Cyber ​​Security Joint Stock Company, sztuczna inteligencja jest wykorzystywana przez cyberprzestępców do oszustw (omijanie systemów biometrycznych, eKYC...), podszywania się pod znane osoby w celu rozpowszechniania fałszywych informacji i wyłudzania pieniędzy. Istnieje wiele przypadków, w których cyberprzestępcy wykorzystują sztuczną inteligencję do tworzenia deepfake’ów, podszywania się pod krewnych i prowadzenia wideorozmów w celu wyłudzenia pieniędzy.

Pan Vu Thanh Thang – dyrektor ds. sztucznej inteligencji (CAIO) w SCS Cyber ​​Security Joint Stock Company – powiedział, że wkroczyliśmy w erę, w której wszystko można sfałszować. Zdjęcie: NVCC

Według pana Thanga, firmy również są potencjalnymi celami przestępców wykorzystujących sztuczną inteligencję. Mogą oni wykorzystywać sztuczną inteligencję Deepfake do podszywania się pod pracowników, omijania systemów bezpieczeństwa w celu odblokowywania obecności oraz podszywania się pod liderów firm, aby oczerniać i niszczyć reputację.

Zgadzając się z tym poglądem, pan Do Nhu Lam z ABAII wskazał na trzy konsekwencje dla indywidualnych użytkowników spowodowane przez sztuczną inteligencję: oszustwa finansowe, zniesławienie reputacji i wykorzystanie prywatnych informacji. Dla firm firma Arup straciła 25 milionów dolarów, po tym jak pracownicy jej oddziału w Hongkongu zostali oszukani i nakłonieni do udziału w spotkaniu wideo z użyciem deepfake i przelania pieniędzy na żądanie.

Wszystko, co musisz wiedzieć o Veo 3, najnowszym narzędziu AI do generowania viralowych filmów Najnowszy model AI do generowania wideo firmy Google – Veo 3 – zachwyca swoją zdolnością do tworzenia realistycznie zsynchronizowanego dźwięku z obrazem.

Innym, równie poważnym ryzykiem jest to, że gdy ludzie nie będą w stanie odróżnić prawdy od fałszu, zaufanie społeczeństwa do mediów i oficjalnych źródeł informacji ulegnie erozji.

Pan Lam powołał się na raport Reuters Institute z 2024 r., z którego wynika, że ​​odsetek globalnych użytkowników ufających wiadomościom na platformach medialnych spadł do najniższego poziomu od dekady, głównie z powodu pojawienia się treści deepfake.

Według eksperta Vu Thanh Thang „żyjemy w erze, w której wszystkie informacje mogą być sfałszowane i nie stanowią już „ryzyka”. Dlatego konieczne jest podnoszenie świadomości, stosowanie środków ochrony osobistej i zdobywanie wiedzy na temat sztucznej inteligencji, aby żyć w pokoju .

Obaj eksperci zalecają, aby użytkownicy zawsze weryfikowali i uwierzytelniali informacje przed podjęciem decyzji; wyposażyli się w wiedzę umożliwiającą identyfikację fałszywych treści; ograniczyli udostępnianie danych osobowych w internecie; oraz zgłaszali przypadki rozpowszechniania fałszywych treści. „Tylko działając proaktywnie i dysponując wiedzą, użytkownicy mogą naprawdę się chronić i przyczyniać się do budowania bezpieczniejszej cyberprzestrzeni w erze cyfrowej” – powiedział Lam.

Zaniepokojony groźbą zagłady rodzaju ludzkiego z powodu sztucznej inteligencji, „ojciec chrzestny” Yoshua Bengio właśnie coś zrobił . „Ojciec chrzestny” AI Yoshua Bengio właśnie założył organizację non-profit, której celem jest tworzenie bezpiecznych systemów sztucznej inteligencji, zamiast pokazywania ludziom niebezpiecznych osobowości.

Source: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html