Deepfake porn – problem w wyścigu AI

Deepfakes to filmy i obrazy stworzone lub cyfrowo przetworzone za pomocą sztucznej inteligencji (AI) lub uczenia maszynowego (ML). Treści pornograficzne stworzone z wykorzystaniem tej technologii po raz pierwszy pojawiły się w internecie kilka lat temu, gdy użytkownik Reddita udostępnił fałszywe klipy porno z twarzami celebrytów.

Zdjęcie: GI

Każdy może stać się ofiarą.

Od tego czasu twórcy deepfake'ów nieustannie publikują podobne filmy i zdjęcia, celując w internetowych influencerów, dziennikarzy i inne osoby o publicznych profilach. Tysiące takich filmów można znaleźć na wielu stronach internetowych.

W miarę jak technologie AI stają się coraz bardziej dostępne, użytkownicy mogą bez zgody dowolnej osoby zamienić ją w „gwiazdę filmów pornograficznych” lub, co bardziej niebezpieczne, wykorzystać tę technologię do zniesławiania lub szantażowania innych.

Eksperci twierdzą, że problem może się pogłębić wraz z rozwojem uogólnionych narzędzi sztucznej inteligencji, które będą trenowane na miliardach obrazów z internetu i będą generować nowe treści przy użyciu istniejących danych.

„Rzeczywistość jest taka, że ​​technologia będzie się nadal rozprzestrzeniać, ewoluować i stawać się coraz łatwiejsza i bardziej dostępna” – powiedział Adam Dodge, założyciel EndTAB, grupy szkoleniowej oferującej szkolenia z zakresu nadużywania technologii. „I dopóki tak będzie, ludzie… będą nadal nadużywać tej technologii, aby krzywdzić innych, głównie poprzez przemoc seksualną w internecie, pornografię deepfake i udawane nagości”.

Noelle Martin z Perth w Australii doświadczyła tego na własnej skórze. 28-latka odkryła swoje własne, podrobione zdjęcia pornograficzne 10 lat temu, kiedy z ciekawości wyszukała w Google swoje zdjęcia. Martin twierdzi, że do dziś nie wie, kto stworzył te fałszywe zdjęcia lub filmy pornograficzne. Podejrzewa, że ​​ktoś wykorzystał zdjęcia z jej mediów społecznościowych do stworzenia tych filmów.

Pomimo prób Martin, aby skontaktować się z serwisami w celu usunięcia filmów, jej wysiłki poszły na marne. Niektóre nie odpowiedziały. Inne usunęły je, ale szybko ponownie je umieściły. „Nie wygrasz” – powiedział Martin. „Zostaną w internecie na zawsze i mogą zrujnować ci życie”.

Wysiłki firm technologicznych mające na celu naprawienie sytuacji.

Niektóre modele sztucznej inteligencji wskazały, że ograniczyły dostęp do obrazów pornograficznych.

Firma OpenAI poinformowała o usunięciu treści pornograficznych z danych wykorzystywanych do trenowania narzędzia do generowania obrazów DALL-E, co ograniczy potencjalne nadużycia. Firma filtruje również żądania i blokuje użytkownikom tworzenie obrazów celebrytów i prominentnych polityków za pomocą sztucznej inteligencji. Midjourney, inny model, również blokuje użycie określonych słów kluczowych i zachęca użytkowników do zgłaszania problematycznych obrazów moderatorom.

Tymczasem Stability AI wydało również aktualizację, która uniemożliwia użytkownikom tworzenie wrażliwych obrazów. Zmiany te pojawiły się po doniesieniach, że niektórzy użytkownicy tworzyli nagie zdjęcia inspirowane celebrytami, korzystając z tej technologii.

Rzecznik Stability AI, Motez Bishara, powiedział, że filtr wykorzystuje kombinację słów kluczowych i innych technik, takich jak rozpoznawanie obrazu, do wykrywania nagości. Użytkownicy mogą jednak manipulować oprogramowaniem i tworzyć, co tylko zechcą, ponieważ firma udostępniła kod źródłowy aplikacji w modelu open source.

Niektóre firmy zarządzające mediami społecznościowymi również zaostrzyły swoje zasady, aby lepiej chronić swoje platformy przed szkodliwymi materiałami.

W zeszłym miesiącu TikTok ogłosił, że wszystkie treści typu deepfake lub zmanipulowane muszą zostać oznaczone, aby wskazać, że są fałszywe lub zostały w jakiś sposób zmodyfikowane.

Platforma gier Twitch niedawno zaktualizowała swoją politykę dotyczącą obrazów deepfake po tym, jak popularny streamer o pseudonimie Atrioc podczas transmisji na żywo pod koniec stycznia uzyskał dostęp do strony internetowej z pornografią deepfake w swojej przeglądarce.

Firmy Apple i Google ogłosiły niedawno, że usunęły ze swoich sklepów z aplikacjami aplikację służącą do wyświetlania filmów deepfake o charakterze seksualnym w celu marketingu produktów.

Od zachodnich piosenkarzy po idoli K-popu.

Badania nad pornografią deepfake są rzadkie, ale raport firmy DeepTrace Labs z 2019 r., zajmującej się sztuczną inteligencją, wykazał, że jest ona wykorzystywana niemal wyłącznie przeciwko kobietom. Najczęściej celem ataku były aktorki z Zachodu, a następnie piosenkarki K-popu.

Rzecznik Meta, Dani Lever, powiedział w oświadczeniu, że polityka firmy ogranicza treści dla dorosłych tworzone zarówno przez sztuczną inteligencję, jak i bez niej, a także nakłada na stronę aplikacji do tworzenia deepfake’ów zakaz umieszczania reklam na swojej platformie.

W lutym Meta, wraz z serwisami dla dorosłych, takimi jak Only**** i Porn***, rozpoczęła współpracę z narzędziem internetowym Take It Down, które pozwala nastolatkom zgłaszać własne zdjęcia i filmy pornograficzne z internetu. Strona obsługuje przetwarzanie zarówno filmów nagranych potajemnie, jak i generowanych przez sztuczną inteligencję.

Hoang Ton (według AP)

Źródło: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html