Ostrzeżenie przed zagrożeniem fałszywymi treściami o klęskach żywiołowych generowanymi przez sztuczną inteligencję

Coraz bardziej realistyczne filmy generowane przez sztuczną inteligencję (AI) stanowią główny czynnik wzrostu liczby fałszywych treści rozpowszechnianych podczas katastrof powodziowych, wywołując dezorientację społeczną i ryzyko powszechnej paniki, co zagraża bezpieczeństwu informacji krajowych.

Takie ostrzeżenie wydał malezyjski ekspert ds. bezpieczeństwa w kontekście rosnącej liczby klęsk żywiołowych, których przyczyną są zmiany klimatu.

Dr Noor Nirwandy Mat Noordin, analityk ds. wojny, bezpieczeństwa i polityki z Uniwersytetu Technologicznego MARA (UiTM), stwierdził, że społeczeństwo jest bardzo podatne na filmy i obrazy generowane przez sztuczną inteligencję. Ludzie stoją teraz w obliczu nowej ery, w której każdy może tworzyć niezwykle przekonujące filmy lub obrazy dotyczące powodzi, cyklonów i innych katastrof.

Jeśli nie zostanie to sprawdzone, może to prowadzić do chaosu informacyjnego, ponieważ ludzie nieświadomie wierzą w fałszywe treści krążące w mediach społecznościowych i przyczyniają się do tworzenia fałszywych narracji lub percepcji, zwłaszcza w czasach kryzysu. Dlatego, zdaniem dr Noor, weryfikacja faktów powinna stać się normą kulturową, a społeczeństwo powinno korzystać z platform weryfikujących fakty, aby upewnić się, że otrzymywane informacje są dokładne.

Ostrzegł również, że zagrożenie ze strony manipulacji informacjami przy użyciu sztucznej inteligencji może wpłynąć na nastroje społeczne, wpłynąć na reakcje społeczeństwa oraz podważyć porządek publiczny i bezpieczeństwo narodowe.

Dr Noor zasugerował, aby Malezja utworzyła krajowe centrum informacji o katastrofach oraz dedykowaną jednostkę ds. przeglądu informacji o katastrofach, aby zapewnić lepszą organizację i dokładność przepływu informacji. Należy również opracować krajowy kalendarz katastrof, który będzie okresowym punktem odniesienia, aby pomóc społeczeństwu w przygotowaniach, podczas gdy agencje bezpieczeństwa skupią się na usprawnieniu koordynacji działań ratowniczych.

Zgadzając się z tym poglądem, analityk ds. przestępczości Shahul Hamid podkreślił, że tworzenie i rozpowszechnianie fałszywych informacji o klęskach żywiołowych zostało obecnie uznane za nowe zagrożenie dla zarządzania kryzysowego, ponieważ obecna technologia obrazowania pozwala na tworzenie niezwykle realistycznych nagrań powodzi w ciągu zaledwie kilku minut.

Stwierdził, że zjawisko to prowadzi do „katastrofy informacyjnej” i powoduje skutki, które nie ograniczają się tylko do szkód fizycznych, ale także zakłócają rzeczywisty przepływ informacji, wywołują panikę, zamieszanie i utrudniają rzeczywistą komunikację.

Shahul Hamid ostrzegł, że problem może się pogłębić, jeśli poziom kompetencji cyfrowych społeczeństwa pozostanie niski. Rozpowszechnianie fałszywych obrazów może również zakłócić działania ratownicze prowadzone przez straż pożarną i policję, ponieważ zasoby mogą zostać przekierowane w niewłaściwe miejsca, a obszary rzeczywiście dotknięte skutkami katastrofy zostaną zignorowane. Zwiększyłoby to ryzyko marnotrawstwa zasobów, opóźnień w reagowaniu i braku koordynacji.

Według Shahula Hamida, infolinie ratunkowe są również narażone na przeciążenie przez ciągłe telefony od mieszkańców z prośbą o weryfikację autentyczności nagrania, co oznacza, że ważne połączenia mogą pozostać bez odpowiedzi. Co więcej, rozpowszechnianie informacji sprzecznych z oficjalnymi oświadczeniami podważa zaufanie społeczeństwa do agencji i zespołów wolontariuszy.

Ponadto fałszywe obrazy AI mogą być również wykorzystywane do oszustw, w tym do fałszywych zbiórek funduszy, wykorzystywania empatii społecznej i manipulowania emocjami, co nadaje nowy wymiar zagrożeniom bezpieczeństwa cyfrowego.

Ponieważ społeczeństwo ma coraz większe trudności z odróżnianiem prawdziwych treści od filmów generowanych przez sztuczną inteligencję, brak szkoleń z zakresu kompetencji cyfrowych i wsparcia psychologicznego ze strony społeczeństwa w czasie katastrof sprawi, że wiele osób będzie bardziej skłonnych uwierzyć w dramatyczne treści, zwłaszcza że algorytmy mediów społecznościowych często priorytetowo traktują treści sensacyjne, przez co fałszywe filmy rozprzestrzeniają się szybciej niż oficjalne informacje.

Pan Shahul Hamid podkreślił, że brak szybkiego punktu informacyjnego, w którym można by zweryfikować treści dotyczące katastrof, narazi społeczeństwo na oszustwa.

Badanie Bernama na TikToku i Instagramie wykazało, że po sezonie monsunowym, który dotknął kilka stanów, pojawiło się więcej filmów z wykorzystaniem sztucznej inteligencji. Znalezione fałszywe treści obejmowały zdjęcia wyłaniających się krokodyli, tygrysów wchodzących do wiosek, jadowitych zwierząt i nietypowych sytuacji występujących podczas powodzi.

Wiele fałszywych filmów przedstawiających poważne powodzie wygląda bardzo realistycznie i rozprzestrzenia się bardzo szybko, przez co wielu użytkowników uważa, że są to nagrania wzięte z prawdziwych obrazów, podczas gdy w rzeczywistości są to filmy w całości wygenerowane przez sztuczną inteligencję./.

(TTXVN/Wietnam+)

Source: https://www.vietnamplus.vn/canh-bao-moi-de-doa-tu-nhung-noi-dung-gia-mao-ve-thien-tai-do-ai-tao-ra-post1080179.vnp