Deepfake'i polityczne znajdują się na szczycie listy złośliwych użytkowników sztucznej inteligencji.

Badania Google DeepMind wskazują, że tworzenie fałszywych obrazów, filmów i nagrań dźwiękowych przedstawiających ludzi jest niemal dwa razy częstsze niż tworzenie dezinformacji za pomocą narzędzi takich jak chatboty oparte na sztucznej inteligencji.

Analiza ujawnia, że ​​najczęstszym celem podmiotów nadużywających sztucznej inteligencji jest kształtowanie lub wpływanie na opinię publiczną. Stanowi to 27% przypadków wykorzystania sztucznej inteligencji, co budzi obawy o to, jak deepfake'i mogą wpłynąć na wybory na całym świecie w tym roku.

Przed wyborami powszechnymi na TikToku i Instagramie pojawiło się fałszywe dzieło sztuki przedstawiające brytyjskiego premiera Rishiego Sunaka. Zdjęcie: AFP

Deepfake'i brytyjskiego premiera Rishiego Sunaka, a także innych światowych przywódców, pojawiły się w ostatnich miesiącach na TikToku, X i Instagramie. Brytyjscy wyborcy pójdą do urn w przyszłym tygodniu w wyborach powszechnych.

Istnieją obawy, że pomimo wysiłków platform mediów społecznościowych mających na celu oznaczanie lub usuwanie takich treści, odbiorcy mogą nie rozpoznać ich jako fałszywych, a ich rozpowszechnianie może mieć wpływ na wyborców.

Ardi Janjeva, współpracownik naukowy Instytutu Alana Turinga, nazwał wyniki badania „szczególnie istotnymi”, sugerując, że generowane przez sztuczną inteligencję informacje publiczne mogą „zniekształcać nasze powszechne pojmowanie rzeczywistości społeczno -politycznej ”.

„Nawet jeśli nie mamy pewności co do wpływu deepfake’ów na zachowania wyborcze, to zniekształcenie to może być trudne do wykrycia w krótkiej perspektywie i stanowi długoterminowe ryzyko dla demokracji” – dodała Janjeva.

„Istnieje wiele obaw związanych ze skomplikowanymi cyberatakami, które mogą być przeprowadzane przy użyciu tych narzędzi” – powiedziała badaczka Nahema Marchal, główna autorka badania w Google DeepMind.

Naukowcy z Google DeepMind i Jigsaw przeanalizowali około 200 przypadków niewłaściwego wykorzystania sztucznej inteligencji w okresie od stycznia 2023 r. do marca 2024 r., pochodzących z platform społecznościowych X i Reddit, a także blogów internetowych i doniesień medialnych na temat niewłaściwego wykorzystania.

Drugim najczęstszym motywem nadużyć jest zarabianie pieniędzy, w tym tworzenie nagich zdjęć prawdziwych osób lub wykorzystywanie sztucznej inteligencji do generowania różnego rodzaju treści, takich jak fałszywe artykuły. W większości sytuacji wykorzystywane są łatwo dostępne narzędzia, które „wymagają minimalnej wiedzy technicznej”, co oznacza, że ​​wielu przestępców może kreatywnie wykorzystywać sztuczną inteligencję.

Ngoc Anh (według FT)

Źródło: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html