Deepfake'i są powszechne – nikt nie jest bezpieczny przed sztuczkami podszywającymi się pod sztuczną inteligencję

Naśladowanie głosu, imitacja twarzy, synchronizacja ruchu ust… Sztuczna inteligencja służy już nie tylko do pracy i rozrywki, ale staje się niebezpiecznym narzędziem oszustw komercyjnych. Sztuczna inteligencja podszywa się pod wizerunki celebrytów, lekarzy, a nawet mnichów, aby sprzedawać produkty w sieciach społecznościowych. Prawdziwi ludzie nie wiedzą, a kupujący tracą zaufanie.

Bycie „pożyczoną twarzą” w celu sprzedaży towarów

„Niezależnie od pierwotnego stanu kolana, wystarczy zastosować naszą metodę. Gwarantujemy znaczną poprawę w ciągu 7 dni. Jeśli okaże się ona całkowicie nieskuteczna, jestem gotów zrekompensować 1 miliard VND w ramach szczerych przeprosin. Jeśli naprawdę nie zauważysz żadnych efektów, zwrócimy Ci 100% kosztów, a ja sam jestem gotów zrekompensować 1 miliard VND. Nie każdy odważy się na takie zobowiązanie” – tak brzmiała wypowiedź znanej piosenkarki reklamującej krem ​​do masażu łagodzący ból stawów. Warto jednak zaznaczyć, że reklama ta została w całości stworzona przez sztuczną inteligencję.

Powyższy klip reklamowy został wykorzystany przez konto TikTok o nazwie LShop, wykorzystując wizerunek, głos i mowę ciała piosenkarki w realistyczny sposób, którego nie da się dostrzec bez uważnej obserwacji. Konto to ma prawie 9000 obserwujących, 67 000 polubień, a każdy klip ma tysiące wyświetleń. Sam film „reklamowy” z wizerunkiem piosenkarki zebrał ponad 1000 polubień i prawie 100 komentarzy zachęcających do zakupu.

Wraz z tym samym kremem do masażu, kanały sprzedaży „wyprodukowały” również kolejną deepfake'ową wersję, tym razem lekarza. W klipie postać ta stanowczo obiecała: „Jestem najbardziej prestiżowym lekarzem ortopedą w Hanoi i gwarantuję, że nawet najpoważniejsze uszkodzenie łąkotki można całkowicie wyleczyć w zaledwie 3 dni. Ten żel posiada certyfikat najbardziej prestiżowego stowarzyszenia ortopedycznego w Wietnamie”. Ta wypowiedź została odtworzona przez sztuczną inteligencję dla serii innych „lekarzy”, co ułatwiało widzom pomylenie jej z prawdziwymi słowami.

Klip zebrał prawie 4000 polubień i ponad 120 komentarzy, ale kiedy wysłaliśmy wiadomość z prośbą o zakup, konto nie odpowiedziało ani nie nawiązało kontaktu z widzami w sekcji komentarzy, pozostawiając produkt w koszyku do bezpośredniego zakupu. Co ciekawe, produkt na sprzedaż pochodzi z Chin, a informacje o nim są bardzo niejasne.

Od piosenkarzy, przez celebrytów, po lekarzy – wszyscy oni byli podszywani przez kanały sprzedaży, które tworzyły klipy oparte na sztucznej inteligencji, aby sprzedawać produkty związane ze zdrowiem.

Nie poprzestając na tym, sztuczka deepfake'a rozprzestrzeniła się również na sferę duchową. Konto na TikToku o nazwie Phat Phap NM nie tylko repostuje wykłady Mistrza TPH, ale także wykorzystuje technologię sztucznej inteligencji do tworzenia obrazów „mistrza” sprzedającego produkty takie jak liście bodhi i bransoletki z drewna agarowego.

Kiedy widzowie zostawili komentarze z prośbą o zakup, kanał odpowiedział: „Jeśli coś nie pójdzie zgodnie z planem, przejdź do sekcji „Wyświetl” na moim koncie i wybierz to, czego potrzebujesz, nie skąp drobnych i ignoruj ​​większe”. Zaraz potem sam mnich musiał się odezwać i wyjaśnić, że nigdy nie reklamował ani nie był zaangażowany w produkcję takich produktów.

Granica między kreatywnością a naruszeniem praw

Ekspert ds. cyberbezpieczeństwa Ngo Minh Hieu (Hieu PC) z Narodowego Centrum Monitorowania Cyberbezpieczeństwa (NCSC) stwierdził, że fałszywe klipy reklamowe rozpowszechniane w mediach społecznościowych są tworzone głównie za pomocą oprogramowania Deepfake. Oprogramowanie to nie jest rzadkością, a wiele serwisów oferuje pakiety o niskich kosztach i bardzo prostej obsłudze. Chociaż istnieją pozytywne zastosowania w dziedzinie tworzenia treści cyfrowych i produkcji medialnej, zdaniem Hieu problem tkwi w tym, że niektórzy wykorzystują tę technologię do negatywnych celów, takich jak oszustwa, fałszowanie tożsamości, rozpowszechnianie fałszywych wiadomości lub zniesławianie innych za pomocą filmów, które wyglądają jak prawdziwe.

Pan Hieu podał również kilka wskazówek ułatwiających identyfikację klipów deepfake, np. nieco sztywna mimika twarzy w nagraniu, kształt ust i ruchy niezgodne z dialogiem... Pan Hieu ostrzegł, że zdarzały się poważniejsze sytuacje, gdy sztuczna inteligencja była wykorzystywana do wstawiania twarzy ofiar do wrażliwych filmów w celu zastraszania, przymuszania i czerpania zysków.

Według prawnika Tran Duc Phuonga z Izby Adwokackiej w Ho Chi Minh City, wykorzystywanie sztucznej inteligencji do tworzenia wizerunków celebrytów (lub konkretnych osób) bez ich zgody stanowi naruszenie dóbr osobistych, a w szczególności prawa do wizerunku, zgodnie z artykułem 32 Kodeksu Cywilnego z 2015 roku. Ustawa stanowi: „Każdy ma prawo do własnego wizerunku. Wykorzystanie wizerunku danej osoby wymaga jej zgody. Wykorzystanie wizerunku w celach komercyjnych wiąże się z koniecznością wypłaty wynagrodzenia osobie, której wizerunek jest wykorzystywany, chyba że strony zawarły inną umowę”.

Zatem, jeśli właściciel konta w serwisie społecznościowym wykorzystuje obrazy odtworzone przez sztuczną inteligencję na podstawie prawdziwych zdjęć, starych filmów itp. w celach reklamowych lub sprzedażowych bez pozwolenia, narusza prawo. Jeżeli wykorzystanie obrazu narusza postanowienia niniejszego artykułu, osoba, której wizerunek jest w posiadaniu, ma prawo zwrócić się do sądu o wydanie orzeczenia zobowiązującego naruszyciela, odpowiednie agencje, organizacje i osoby do wycofania, zniszczenia i zaprzestania wykorzystywania obrazu, naprawienia szkody oraz zastosowania innych środków zgodnie z przepisami prawa.

CAM NUONG

Źródło: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html