Deepfake jest powszechny – nikt nie jest bezpieczny przed sztuczkami podszywającymi się pod sztuczną inteligencję

Naśladowanie głosu, imitacja twarzy, synchronizacja ruchu ust… Sztuczna inteligencja służy już nie tylko do pracy i rozrywki, ale staje się niebezpiecznym narzędziem oszustw komercyjnych. Podobizny celebrytów, lekarzy, a nawet mnichów są podrabiane przez sztuczną inteligencję, aby sprzedawać produkty w sieciach społecznościowych. Prawdziwi ludzie nie wiedzą, a kupujący tracą zaufanie.

Bycie „pożyczoną twarzą” w celu sprzedaży towarów

„Nieważne, jak wygląda pierwotne kolano, wystarczy zastosować naszą metodę. Gwarantujemy znaczną poprawę w ciągu 7 dni. Jeśli okaże się ona całkowicie nieskuteczna, jestem gotów zrekompensować 1 miliard VND w ramach szczerych przeprosin. Jeśli naprawdę nie zauważysz żadnych efektów, zwrócimy Ci 100% kosztów, a ja sam jestem gotów zrekompensować 1 miliard VND. Nie każdy odważy się na takie zobowiązanie” – tak brzmiała wypowiedź znanej piosenkarki reklamującej krem ​​do masażu łagodzący ból stawów. Warto jednak zaznaczyć, że reklama ta została w całości stworzona przez sztuczną inteligencję.

Powyższy klip reklamowy został wykorzystany przez konto TikTok o nazwie LShop, wykorzystując wizerunek, głos i mowę ciała piosenkarki w realistyczny sposób, którego nie sposób dostrzec bez uważnej obserwacji. Konto to ma prawie 9000 obserwujących, 67 000 polubień, a każdy klip ma tysiące wyświetleń. Sam film „reklamowy”, wykorzystujący wizerunek piosenkarki, zebrał ponad 1000 polubień i prawie 100 komentarzy zachęcających do zakupu.

Wraz z tym samym kremem do masażu, kanały sprzedaży „wyprodukowały” również kolejną deepfake'ową wersję, tym razem lekarza. W klipie postać ta stanowczo deklaruje: „Jestem najbardziej prestiżowym lekarzem ortopedą w Hanoi i gwarantuję, że nawet najpoważniejsze uszkodzenie łąkotki można całkowicie wyleczyć w zaledwie 3 dni. Ten żel posiada certyfikat najbardziej prestiżowego stowarzyszenia ortopedycznego w Wietnamie”. To zdanie zostało odtworzone przez sztuczną inteligencję dla serii innych „lekarzy”, co ułatwia widzom pomylenie go z prawdziwym.

Klip zebrał prawie 4000 polubień i ponad 120 komentarzy, ale kiedy wysłaliśmy wiadomość z prośbą o zamówienie, konto nie odpowiedziało ani nie nawiązało kontaktu z widzami w sekcji komentarzy, pozostawiając produkt w koszyku do bezpośredniego zakupu. Co ciekawe, produkt na sprzedaż pochodził z Chin, a informacje o nim były bardzo niejasne.

Od piosenkarzy, przez celebrytów, po lekarzy – wszyscy oni byli podszywani przez kanały sprzedaży, które tworzyły klipy oparte na sztucznej inteligencji, aby sprzedawać produkty związane ze zdrowiem.

Nie poprzestając na tym, sztuczka deepfake'a rozprzestrzeniła się również na sferę duchową. Konto na TikToku o nazwie Phat Phap NM nie tylko udostępniło wykłady Mistrza TPH, ale także wykorzystało technologię sztucznej inteligencji do stworzenia obrazów „mistrza” sprzedającego produkty takie jak liście bodhi i bransoletki z drewna agarowego.

Kiedy widzowie zostawili komentarze z prośbą o zakup, kanał odpowiedział: „Jeśli sytuacja nie będzie taka, jak oczekiwano, przejdź do sekcji „Wyświetl” na moim koncie i wybierz to, czego potrzebujesz, nie skąp drobnych i ignoruj ​​większe”. Zaraz potem sam mnich musiał się odezwać i wyjaśnić, że nigdy nie reklamował ani nie był zaangażowany w produkcję takich produktów.

Granica między kreatywnością a naruszeniem praw

Ekspert ds. cyberbezpieczeństwa Ngo Minh Hieu (Hieu PC) z Narodowego Centrum Monitorowania Cyberbezpieczeństwa (NCSC) stwierdził, że fałszywe klipy reklamowe rozpowszechniane w mediach społecznościowych są tworzone głównie za pomocą oprogramowania Deepfake. Oprogramowanie to nie jest rzadkością, wiele serwisów oferuje nawet pakiety o niskich kosztach i bardzo prostej obsłudze. Chociaż istnieją pozytywne zastosowania w dziedzinie tworzenia treści cyfrowych i produkcji medialnej, zdaniem Hieu, problem tkwi w tym, że niektórzy wykorzystują tę technologię do negatywnych celów, takich jak oszustwa, fałszowanie tożsamości, rozpowszechnianie fałszywych wiadomości lub zniesławianie innych za pomocą filmów, które wyglądają jak prawdziwe.

Pan Hieu podał również kilka wskazówek ułatwiających identyfikację klipów deepfake, np. nieco sztywna mimika twarzy w nagraniu, kształt ust i ruchy niezgodne z dialogiem... Pan Hieu ostrzegł, że zdarzały się poważniejsze sytuacje, w których sztuczna inteligencja była wykorzystywana do wstawiania twarzy ofiar do wrażliwych filmów w celu zastraszania, przymuszania i czerpania zysków.

Według prawnika Tran Duc Phuonga z Izby Adwokackiej w Ho Chi Minh City, wykorzystywanie sztucznej inteligencji do tworzenia wizerunków celebrytów (lub konkretnych osób) bez ich zgody stanowi naruszenie dóbr osobistych, a w szczególności prawa do wizerunku, zgodnie z artykułem 32 Kodeksu Cywilnego z 2015 roku. Ustawa stanowi: „Każdy ma prawo do własnego wizerunku. Wykorzystanie wizerunku danej osoby musi być zaakceptowane przez tę osobę. Za wykorzystanie wizerunku w celach komercyjnych należy wypłacić wynagrodzenie osobie, której wizerunek został wykorzystany, chyba że strony zawarły inną umowę”.

Zatem, jeśli właściciel konta w serwisie społecznościowym wykorzystuje obrazy odtworzone przez sztuczną inteligencję na podstawie prawdziwych zdjęć, starych filmów itp. w celach reklamowych lub sprzedażowych bez pozwolenia, narusza prawo. Jeżeli wykorzystanie obrazu narusza postanowienia niniejszego artykułu, osoba, której wizerunek jest w posiadaniu, ma prawo zwrócić się do sądu o wydanie orzeczenia zobowiązującego sprawcę, odpowiednie agencje, organizacje i osoby do wycofania, zniszczenia i zaprzestania wykorzystywania obrazu, naprawienia szkody oraz zastosowania innych środków przewidzianych prawem.

CAM NUONG

Źródło: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html