Deepfake porn – problem w wyścigu AI

Deepfakes to filmy i obrazy tworzone lub modyfikowane cyfrowo za pomocą sztucznej inteligencji (AI) lub uczenia maszynowego (ML). Pornografia stworzona za pomocą tej technologii po raz pierwszy pojawiła się w internecie kilka lat temu, gdy użytkownik Reddita udostępnił fałszywe klipy porno z twarzami celebrytów.

Zdjęcie: GI

Każdy może być ofiarą.

Od tego czasu twórcy deepfake'ów nadal publikują podobne filmy i zdjęcia, celując w internetowych influencerów, dziennikarzy i inne osoby o publicznych profilach. Tysiące takich filmów można znaleźć na wielu stronach internetowych.

W miarę jak technologie AI stają się coraz bardziej dostępne, użytkownicy mogą bez zgody dowolnej osoby uczynić ją „gwiazdą porno”, a co gorsza, wykorzystać tę technologię do zniesławiania lub szantażowania innych.

Eksperci twierdzą, że problem może się pogłębić wraz z rozwojem generatywnych narzędzi sztucznej inteligencji, które są szkolone na miliardach obrazów z internetu i generują nową treść przy użyciu istniejących danych.

„Prawda jest taka, że ​​technologia będzie się nadal rozprzestrzeniać, ewoluować i stawać się coraz łatwiej dostępna” – powiedział Adam Dodge, założyciel EndTAB, grupy szkoleniowej oferującej szkolenia z zakresu nadużywania technologii. „I dopóki tak się stanie, ludzie niewątpliwie… będą nadal nadużywać tej technologii, aby krzywdzić innych, głównie poprzez przemoc seksualną w internecie, pornografię deepfake i fałszywe nagości”.

Noelle Martin z Perth w Australii doświadczyła tej rzeczywistości. 28-latka odkryła deepfake pornograficzny z własnym wizerunkiem 10 lat temu, kiedy z ciekawości wyszukała w Google swoje zdjęcie. Martin do dziś twierdzi, że nie ma pojęcia, kto stworzył te fałszywe zdjęcia lub filmy porno. Podejrzewa, że ​​ktoś wykorzystał jej zdjęcia z mediów społecznościowych do tworzenia filmów porno.

Martin próbowała skontaktować się z serwisami, aby usunąć filmy, ale jej wysiłki poszły na marne. Niektóre nie odpowiedziały. Inne usunęły je, ale szybko ponownie opublikowały. „Nie da się wygrać” – powiedziała pani Martin. „Będzie to w internecie na zawsze i może zrujnować życie”.

Wysiłki firm technologicznych mające na celu rozwiązanie problemu

Niektóre modele sztucznej inteligencji twierdzą, że ograniczyły dostęp do obrazów pornograficznych.

Firma OpenAI poinformowała o usunięciu treści pornograficznych z danych wykorzystywanych do trenowania generatora obrazów DALL-E, co powinno ograniczyć prawdopodobieństwo ich niewłaściwego wykorzystania. Firma filtruje również żądania i blokuje użytkownikom tworzenie obrazów celebrytów i prominentnych polityków za pomocą sztucznej inteligencji. Inny model, Midjourney, również blokuje użycie określonych słów kluczowych i zachęca użytkowników do zgłaszania moderatorom problematycznych obrazów.

W międzyczasie firma Stability AI wprowadziła również aktualizację, która uniemożliwia użytkownikom tworzenie zdjęć o charakterze erotycznym. Zmiany te pojawiły się po doniesieniach, że niektórzy użytkownicy wykorzystywali tę technologię do tworzenia aktów inspirowanych celebrytami.

Rzecznik Stability AI, Motez Bishara, powiedział, że filtr wykorzystuje kombinację słów kluczowych i innych technik, takich jak rozpoznawanie obrazu, do wykrywania nagości. Użytkownicy mogą jednak modyfikować oprogramowanie i tworzyć, co tylko zechcą, ponieważ firma udostępniła kod źródłowy aplikacji w trybie open source.

Niektóre firmy zajmujące się mediami społecznościowymi zaostrzyły również przepisy, aby lepiej chronić swoje platformy przed szkodliwymi materiałami.

W zeszłym miesiącu TikTok ogłosił, że wszystkie treści deepfake lub zmanipulowane muszą zostać oznaczone w celu wskazania, że ​​są fałszywe lub w jakiś sposób zmodyfikowane.

Platforma gamingowa Twitch niedawno zaktualizowała swoją politykę dotyczącą obrazów deepfake po tym, jak popularny streamer o pseudonimie Atrioc został przyłapany na otwieraniu strony z pornografią deepfake w swojej przeglądarce podczas transmisji na żywo pod koniec stycznia.

Firmy Apple i Google poinformowały o usunięciu niedawno ze swoich sklepów z aplikacjami aplikacji, która zawierała filmy deepfake o charakterze seksualnym, służące do marketingu ich produktów.

Od zachodniej piosenkarki do idolki K-popu.

Badania nad pornografią deepfake są rzadkie, ale raport firmy DeepTrace Labs z 2019 r., zajmującej się sztuczną inteligencją, wykazał, że jest ona wykorzystywana niemal wyłącznie przeciwko kobietom. Najczęściej celem ataku były aktorki z Zachodu, a następnie piosenkarki K-popu.

Rzecznik Meta, Dani Lever, powiedział w oświadczeniu, że polityka firmy ogranicza treści dla dorosłych tworzone zarówno przez sztuczną inteligencję, jak i bez niej, a także zabrania stronie aplikacji tworzącej deepfake umieszczania reklam na swojej platformie.

W lutym Meta, podobnie jak serwisy dla dorosłych, takie jak Only**** i Porn***, rozpoczęły współpracę z narzędziem internetowym Take It Down, które pozwala nastolatkom zgłaszać w internecie zdjęcia i filmy o charakterze seksualnym. Strona obsługuje zarówno filmy nagrane potajemnie, jak i generowane przez sztuczną inteligencję.

Hoang Ton (według AP)

Źródło: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html