Deepfake wojny w Strefie Gazy budzi obawy dotyczące sztucznej inteligencji

[reklama_1]

Zdjęcia, oglądane miliony razy w internecie, to deepfake'i stworzone przy użyciu sztucznej inteligencji. Jeśli przyjrzysz się uważnie, dostrzeżesz charakterystyczne znaki: dziwnie wygięte palce lub oczy świecące nienaturalnym światłem.

Oburzenie, jakie wywołują te deepfake'i, jest jednak prawdziwe.

Zdjęcia z wojny Izraela z Hamasem w sposób sugestywny i bolesny ilustrują niebezpieczeństwa, jakie niesie ze sobą sztuczna inteligencja jako narzędzie propagandowe, służące do tworzenia realistycznych obrazów.

Od początku walk w zeszłym miesiącu w mediach społecznościowych krążyły zmanipulowane zdjęcia, których celem było wysuwanie fałszywych oskarżeń o odpowiedzialność za ofiary lub wprowadzanie ludzi w błąd co do okrucieństw, które nigdy nie miały miejsca.

Deepfake'owe zdjęcia wojny w Strefie Gazy budzą nowe obawy, zdjęcie 1 — Palestyńczyk podnosi swoje rzeczy spod gruzów w Strefie Gazy. Zdjęcie: AP.

Postęp technologiczny dokonuje się coraz częściej i przy niewielkim nadzorze. To wyraźnie pokazuje ryzyko, że sztuczna inteligencja stanie się kolejną formą broni, i daje wgląd w to, co wydarzy się w przyszłych konfliktach, wyborach i innych ważnych wydarzeniach.

„Sytuacja będzie się znacznie pogarszać, zanim się poprawi” – powiedział Jean-Claude Goldenstein, dyrektor generalny CREOpoint, firmy technologicznej z siedzibą w San Francisco i Paryżu, która wykorzystuje sztuczną inteligencję do oceny zasadności skarg składanych online.

Jego firma skompilowała bazę danych najbardziej popularnych zdjęć deepfake z Gazy. „Obrazy, filmy i dźwięk: dzięki kreatywnej sztucznej inteligencji to krok naprzód, jakiego nigdy wcześniej nie widzieliście” – powiedział.

Imran Ahmed, dyrektor generalny Center for Countering Digital Hate, organizacji non-profit monitorującej dezinformację związaną z wojną, powiedział, że propagandziści tworzący takie obrazy potrafią oddziaływać na najgłębsze impulsy i lęki ludzi.

Im bardziej przerażający obraz, tym większe prawdopodobieństwo, że użytkownicy go zapamiętają i udostępnią, nieświadomie rozpowszechniając kolejne dezinformacje. Podobne dezinformacje generowane przez sztuczną inteligencję zaczęły się rozprzestrzeniać od czasu konfliktu rosyjsko-ukraińskiego.

Każdy nowy konflikt lub sezon wyborczy stwarza nowe możliwości dla szerzycieli dezinformacji. To sprawia, że wielu ekspertów ds. sztucznej inteligencji i politologów ostrzega przed zagrożeniami w nadchodzącym roku, kiedy w kilku krajach odbędą się ważne wybory, w tym w Stanach Zjednoczonych, Indiach, Pakistanie, na Ukrainie, w Indonezji i Meksyku.

Ryzyko, że sztuczna inteligencja i media społecznościowe mogą zostać wykorzystane do rozpowszechniania kłamstw wśród amerykańskich wyborców, zaniepokoiło ustawodawców obu partii w Waszyngtonie. Podczas niedawnego przesłuchania w sprawie zagrożeń związanych z technologią deepfake, kongresmen Gerry Connolly, demokrata z Wirginii, stwierdził, że Stany Zjednoczone muszą zainwestować w finansowanie rozwoju narzędzi sztucznej inteligencji (AI) mających na celu zwalczanie innych rodzajów sztucznej inteligencji.

Zdaniem profesora Davida Doermanna z Uniwersytetu w Buffalo, skuteczna reakcja na wyzwania polityczne i społeczne, jakie niesie ze sobą dezinformacja generowana przez sztuczną inteligencję, będzie wymagała zarówno lepszej technologii, jak i lepszych regulacji.

Mai Anh (według AP)

Źródło