Konwencja w Hanoi, eksperci proponują „cyfrową odporność” na wyzwania związane ze sztuczną inteligencją

Eksperci, analizując wpływ sztucznej inteligencji na zaufanie cyfrowe, proponują podejście oparte na „cyfrowej odporności” w celu stworzenia bezpiecznego społeczeństwa w erze danych.

Podpułkownik, doktor nauk kryminologicznych, Dao Trung Hieu powiedział, że rozwój sztucznej inteligencji (AI) radykalnie zmienił sposób, w jaki ludzie tworzą, odbierają i weryfikują informacje. Technologie takie jak deepfake, syntetyczne głosy czy sztuczne obrazy sprawiają, że granica między rzeczywistością a fałszem zaciera się jak nigdy dotąd.

Doktor podpułkownik, ekspert kryminologii Dao Trung Hieu. Zdjęcie: NVCC.

Według statystyk Europolu (2024) około 90% treści dostępnych obecnie w internecie jest na różnych poziomach interwencją sztucznej inteligencji, z czego 15% wykazuje oznaki celowego fałszerstwa.

W Wietnamie Ministerstwo Bezpieczeństwa Publicznego odnotowało szereg przypadków wykorzystywania sztucznej inteligencji do podszywania się pod krewnych, urzędników bankowych lub przedstawicieli agencji państwowych w celu przywłaszczenia majątku. W niektórych przypadkach straty sięgały dziesiątek miliardów dongów.

Niepokojące są nie tylko straty materialne, ale także erozja zaufania społecznego, fundamentu wszelkich relacji międzyludzkich. Kiedy prawda zostanie odtworzona, zaufanie, będące fundamentem wszelkich relacji społecznych, stanie się pierwszym celem ataku.

„Opisane powyżej zjawiska nie są po prostu przekształceniem narzędzi przestępczych, ale przekształceniem przestrzeni zachowań przestępczych, nadając jej zupełnie nowe cechy: jest niematerialna, transgraniczna, anonimowa i samoucząca się” – powiedział starszy pułkownik Dao Trung Hieu.

Transformacja struktury zachowań przestępczych w erze sztucznej inteligencji

Podpułkownik Dao Trung Hieu powiedział, że przestępstwa w erze sztucznej inteligencji nie są już ograniczone przestrzenią fizyczną. Przestępstwa są dokonywane za pośrednictwem modeli danych, algorytmów i zautomatyzowanych systemów generowania, co pozwala osobom fizycznym lub organizacjom fałszować autentyczność wszelkiego rodzaju informacji.

O ile w tradycyjnych przestępstwach fizyczne ślady (dowody, miejsca zbrodni, świadkowie) stanowią główną podstawę, o tyle w przestępstwach high-tech kluczowe są ślady cyfrowe. Sztuczna inteligencja pomaga przestępcom osiągnąć dwie niebezpieczne możliwości: syntetyczną rzeczywistość, wmawiającą odbiorcy coś, co nie istnieje, oraz erozję atrybucji, utrudniającą ustalenie źródła zachowania.

Z perspektywy kryminologicznej można zaobserwować zmianę w strukturze czterech elementów przestępczości:

Po pierwsze, Podmiotem nie jest już pojedyncza osoba, ale może być zautomatyzowany system lub grupa osób zdalnie nim kontrolujących;

Po drugie, naruszeniu podlega nie tylko własność, honor czy dane, ale także zaufanie społeczne – wartość niematerialna, ale o fundamentalnym znaczeniu;

Po trzecie, sposoby popełniania przestępstw są zaprogramowane, uczące się samodzielnie, trudne do kontrolowania i mogą być powielane w nieskończoność;

Po czwarte, konsekwencje społeczne nie ograniczają się do strat ekonomicznych , ale obejmują także psychikę, moralność i bezpieczeństwo narodowe.

„W ten sposób sztuczna inteligencja nie tylko wspiera ludzi w kreatywności i produkcji, ale także restrukturyzuje zachowania dewiacyjne, czyniąc z koncepcji „kryminologii cyfrowej” nowy kierunek badań współczesnej kryminologii ” – powiedział pan Hieu.

Przejście od tradycyjnego śledztwa do śledztwa w przestrzeni danych

Pan Hieu powiedział, że pojawienie się przestępstw opartych na sztucznej inteligencji zmusza agencje śledcze do innowacji w swoich modelach działania. Zamiast prowadzić śledztwo po zdarzeniu, konieczne jest równoległe badanie danych, gromadzenie i analizowanie przepływu informacji w trakcie trwania zdarzenia.

Prowadzone są badania nad technikami takimi jak analiza śladów AI, które umożliwiają odtworzenie specyficznych cech każdego modelu generatywnego na wzór „cyfrowych odcisków palców” w kryminalistyce cyfrowej.

W Wietnamie jednostki zawodowe Ministerstwa Bezpieczeństwa Publicznego nawiązały współpracę z przedsiębiorstwami technologicznymi w celu stworzenia bazy danych próbek rozpoznawania głosu, twarzy i wideo stworzonych przez sztuczną inteligencję.

Jednocześnie konieczna jest poprawa infrastruktury prawnej. Konieczne jest uwzględnienie przestępstwa „wykorzystywania sztucznej inteligencji do popełniania przestępstw” w planach nowelizacji Kodeksu karnego, a jednocześnie wprowadzenie szczegółowych regulacji dotyczących odpowiedzialności właścicieli i operatorów systemów AI.

Ważniejsze jest odejście od nastawienia „polowania na winowajcę” na rzecz „proaktywnej prewencji”. W czasach, gdy fałszywy film może rozprzestrzeniać się szybciej niż oficjalne ogłoszenie, zdolność do szybkiej reakcji i koordynacji działań wszystkich stron, w tym państwa, przedsiębiorstw i społeczności, staje się kluczowym czynnikiem.

Odporność cyfrowa, „przeciwciała” w erze sztucznej inteligencji

Koncepcją podkreślaną przez podpułkownika dr. Dao Trung Hieu jest „odporność cyfrowa”, czyli zdolność społeczeństwa do samoidentyfikacji i reagowania na fałszywe informacje. Według niego, aby zbudować odporność cyfrową, konieczne jest połączenie trzech grup rozwiązań.

Uroczystość podpisania Konwencji Narodów Zjednoczonych przeciwko cyberprzestępczości odbyła się 25 października w Hanoi. Zdjęcie: Rząd.

Po pierwsze, należy stworzyć elastyczny i ewolucyjny korytarz prawny, zapewniający równowagę między kontrolą a innowacją. Przepisy nie powinny „określać” sztucznej inteligencji, lecz być elastyczne, aby dostosowywać się do szybkich zmian technologicznych, jednocześnie zapewniając zasadę podwójnej odpowiedzialności – osoby lub organizacje korzystające ze sztucznej inteligencji muszą ponosić odpowiedzialność za produkty, które tworzą.

Po drugie, należy ustanowić krajowy mechanizm identyfikacji treści generowanych przez sztuczną inteligencję, wykorzystując cyfrowe standardy uwierzytelniania pochodzenia (znak wodny sztucznej inteligencji, kod pochodzenia). Platformy cyfrowe powinny być zobowiązane do oznaczania lub weryfikacji treści generowanych przez sztuczną inteligencję, pomagając użytkownikom odróżniać treści prawdziwe od fałszywych już na etapie odbioru.

Po trzecie, edukacja i media społecznościowe stanowią długoterminową linię obrony. Prawo może regulować zachowania, ale tylko edukacja może regulować świadomość. Włączenie wiedzy o bezpieczeństwie danych, umiejętności rozpoznawania fałszywych wiadomości i etyki technologii do programów nauczania ogólnego i uniwersyteckiego stworzy klasę obywateli z „cyfrowymi przeciwciałami”, co stanowi trwały fundament bezpiecznego społeczeństwa.

Według pana Hieu, sztuczna inteligencja to nie tylko postęp technologiczny, ale także moralny i prawny test człowieczeństwa. Kiedy maszyny potrafią odtworzyć prawdę, ludzie są zmuszeni nauczyć się, jak chronić jedyną wiarę, której nie da się zaprogramować.

Wietnam musi przejąć inicjatywę poprzez stworzenie elastycznych ram prawnych, wzmocnienie współpracy publiczno-prywatnej w zakresie zapobiegania przestępczości związanej ze sztuczną inteligencją oraz promowanie edukacji społeczeństwa na temat odporności cyfrowej.

„Bezpieczne społeczeństwo w erze sztucznej inteligencji to nie to, które ma najsilniejsze zapory sieciowe, ale to, które ma najbardziej czujnych obywateli. Jeśli dane są paliwem ery cyfrowej, to zaufanie jest jego siłą napędową. Bez zaufania każdy system się załamie, niezależnie od stopnia zaawansowania technologii” – podkreślił kryminolog.

25 października w Hanoi odbyła się ceremonia podpisania Konwencji Narodów Zjednoczonych przeciwko cyberprzestępczości, której tematem przewodnim było „Zwalczanie cyberprzestępczości – Współodpowiedzialność – Spojrzenie w przyszłość”. Konwencja z Hanoi jest uważana za ważny krok w budowaniu pierwszych globalnych ram prawnych koordynujących wspólne działania w zakresie reagowania na cyberprzestępczość. To historyczny kamień milowy nie tylko dla społeczności międzynarodowej, ale także potwierdzenie roli i pozycji Wietnamu na arenie międzynarodowej.

Source: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html