Jak identyfikować oszustwa wykorzystujące technologię Deepfake

Deepfake stał się poważnym problemem, ponieważ liczba oszustw technologicznych stale rośnie.

Po przeprowadzeniu badań na forach Darknetu, gdzie często działają cyberprzestępcy, eksperci ds. bezpieczeństwa odkryli, że tak wielu przestępców używa technologii Deepfake do oszustw, że popyt na nią znacznie przekroczył podaż oprogramowania Deepfake obecnie dostępnego na rynku.

Eksperci firmy Kaspersky przewidują, że wraz ze wzrostem popytu przewyższającego podaż, liczba oszustw Deepfake wzrośnie. Ich formy będą bardziej zróżnicowane i wyrafinowane: od oferowania wysokiej jakości filmu podszywającego się pod inną osobę po wykorzystywanie wizerunków celebrytów w fałszywych transmisjach na żywo w mediach społecznościowych, przy jednoczesnej obietnicy zapłacenia dwukrotnie wyższej kwoty niż ta, którą wysłała im ofiara.

Według systemu informacji referencyjnych Regula, 37% firm na całym świecie zetknęło się z oszustwem głosowym Deepfake, a 29% padło ofiarą filmów Deepfake.

Technologia ta stała się zagrożeniem dla cyberbezpieczeństwa w Wietnamie, gdzie cyberprzestępcy często wykorzystują fałszywe rozmowy wideo, podszywając się pod inne osoby i pożyczając pieniądze od ich krewnych i znajomych.

Rozmowa wideo wykonana w technologii Deepfake może trwać zaledwie minutę, przez co ofiarom trudno odróżnić prawdziwe nagranie od fałszywego.

Deepfake stopniowo staje się „koszmarem” w wyrafinowanych oszustwach internetowych.

Deepfake stał się koszmarem dla kobiet i społeczeństwa. Cyberprzestępcy wykorzystują sztuczną inteligencję (AI) do umieszczania twarzy ofiar na zdjęciach i filmach pornograficznych, a także w kampaniach propagandowych.

Celem tych formularzy jest manipulowanie opinią publiczną poprzez rozpowszechnianie fałszywych informacji, a nawet szkodzenie reputacji organizacji lub osób ” – powiedziała pani Vo Duong Tu Diem, dyrektor regionalny firmy Kaspersky w Wietnamie.

Chociaż przestępcy wykorzystują sztuczną inteligencję do szkodliwych celów, osoby prywatne i firmy nadal mogą używać sztucznej inteligencji do identyfikowania fałszywych treści, zmniejszając tym samym prawdopodobieństwo powodzenia oszustw.

W związku z tym użytkownicy będą mogli skorzystać z przydatnych rozwiązań, które pozwolą im chronić się przed oszustwami, np. korzystając z oprogramowania do wykrywania treści generowanego przez sztuczną inteligencję (używającego zaawansowanych algorytmów do analizowania i określania poziomu edycji obrazów/filmów/dźwięków).

W przypadku filmów deepfake dostępne są narzędzia, które potrafią wykryć niespójne ruchy ust i mowę. Niektóre programy są nawet na tyle zaawansowane, że potrafią wykryć nieprawidłowy przepływ krwi pod skórą, analizując rozdzielczość wideo, ponieważ ludzkie żyły zmieniają kolor, gdy serce pompuje krew.

Dodatkowo, istnieje również znak wodny, który pełni funkcję znaku identyfikacyjnego na obrazach, filmach itp., pomagając autorom chronić prawa autorskie do produktów AI. Funkcja ta może stać się bronią w walce z deepfake, ponieważ pomaga w ustaleniu pochodzenia platformy, na której powstaje sztuczna inteligencja. Użytkownicy z odpowiednią wiedzą technologiczną mogą znaleźć sposób na ustalenie pochodzenia treści i porównanie, w jaki sposób oryginalne dane zostały zmodyfikowane przez „ręce” AI.

Obecnie niektóre nowe technologie wykorzystują algorytmy szyfrowania do wstawiania wartości skrótu w określonych odstępach czasu do filmu. Jeśli film został edytowany, wartość skrótu ulegnie zmianie, a użytkownicy będą mogli na tej podstawie sprawdzić, czy treść została zmodyfikowana.

W przeszłości pojawiło się kilka samouczków poświęconych wyszukiwaniu anomalii w filmach, na przykład odchyleń kolorów, nienaturalnych ruchów mięśni, ruchów oczu... Jednak sztuczna inteligencja staje się coraz mądrzejsza, więc te wartości nie zawsze dają poprawne wyniki.

Proces weryfikacji wiarygodności materiałów wideo nie opiera się już na obserwacjach gołym okiem, ale wymaga narzędzi technologicznych stworzonych w celu zapobiegania fałszywym treściom i wykrywania ich.

Khanh Linh

Źródło: https://vtc.vn/cach-nhan-dien-lua-dao-loi-dung-deepfake-ar828510.html