Pilna potrzeba kontrolowania treści AI

Należy wprowadzić kryteria ograniczające treści, które użytkownicy mogą tworzyć za pomocą sztucznej inteligencji, wymuszając wyraźne etykietowanie

W ciągu ostatnich kilku lat sztuczna inteligencja (AI) rozwinęła się i stale udoskonala w zawrotnym tempie, stając się narzędziem głębokiego wsparcia w wielu dziedzinach. Veo3 – technologia tworzenia filmów z wykorzystaniem AI, opracowana niedawno przez Google DeepMind – umożliwia tworzenie realistycznych ujęć. Oprócz funkcji wspierających użytkowników, narzędzie to stwarza również ryzyko wykorzystania go przez cyberprzestępców do oszustw.

Trudno odróżnić prawdę od fałszu

Według świata technologii, Veo3 „wywołało poruszenie” na całym świecie dzięki funkcji tworzenia filmów z wykorzystaniem sztucznej inteligencji, oferując poziom realizmu przewyższający wszystkie poprzednie narzędzia. W przeciwieństwie do Sory firmy OpenAI – która wyróżnia się jedynie jakością obrazu, ale ma ograniczenia pod względem dźwięku – Veo3 idealnie synchronizuje obrazy, dźwięki otoczenia i dialogi. Od kroków, szumu wiatru, po ludzkie głosy i efekty otoczenia – wszystko jest płynnie ze sobą połączone, osiągając poziom realizmu, który utrudnia użytkownikom odróżnienie prawdziwych filmów od tych stworzonych przez sztuczną inteligencję.

W Wietnamie Veo3 szybko wywołało gorączkę popularności w mediach społecznościowych, takich jak TikTok, Facebook i YouTube Shorts. Seria filmów z hashtagiem #veo3 została udostępniona w zawrotnym tempie, gromadząc miliony wyświetleń i setki tysięcy interakcji. Wiele klipów stworzonych przez sztuczną inteligencję zaskoczyło społeczność internetową niewiarygodnym poziomem autentyczności. Na przykład, 8-sekundowy film z prostym dialogiem osiągnął 5 milionów wyświetleń i ponad 308 000 polubień. Inny film, na którym starsza kobieta smaży jajka, stworzony w całości przez sztuczną inteligencję, również osiągnął ponad 2,6 miliona wyświetleń i ponad 104 000 polubień.

Pan Tran Vinh Khang – pracownik biurowy w Dzielnicy 1 w Ho Chi Minh City – przyznał, że z trudem odróżniał autentyczność od podróbki, ponieważ poziom realizmu był zbyt wysoki. „Widziałem film przedstawiający sprzedawcę ryb rozmawiającego z klientami na targu i pomyślałem, że to prawda, bo obraz był tak ostry. Sposób, w jaki machał ręką, unosił brwi, światło słoneczne padało na jego twarz – wszystko było tak naturalne, że aż trudno uwierzyć, że to dzieło sztucznej inteligencji” – powiedział pan Khang.

Użytkownicy mają trudności z odróżnieniem obrazów w filmie stworzonym przez Veo3 od fałszywych

Choć przyznała, że ​​jest pod wrażeniem, pani Nguyen Mai Anh (mieszkająca w Ho Chi Minh) wyraziła obawy dotyczące bezpieczeństwa informacji. „Film stworzony przez Veo3 jest tak realistyczny, że czuję się niepewnie. Jeśli złoczyńcy wykorzystają tę technologię do tworzenia filmów zniesławiających, oczerniających lub fałszujących dowody, konsekwencje będą bardzo poważne” – stwierdziła pani Anh.

Wielu wietnamskich użytkowników jest szczególnie zainteresowanych sposobem dostępu do Veo3 i korzystania z niego. Jednak Veo3 został oficjalnie wdrożony przez Google tylko na rynku amerykańskim, w ramach pakietu subskrypcji Google AI Ultra w cenie 249,99 USD/miesiąc. W obliczu tego ograniczenia wietnamska społeczność internetowa znalazła sposób na „pokonanie bariery” i korzystanie z niego. Wiele osób dzieli się wskazówkami, jak korzystać z VPN, aby zmienić adres IP na amerykański, a następnie zarejestrować konto Google w obsługiwanym regionie, aby aktywować i korzystać z Veo3 jak lokalny użytkownik. Według ekspertów ds. bezpieczeństwa, jest to również luka, którą cyberprzestępcy mogą wykorzystać do podejrzanych działań.

Potrzebne są ramy prawne dla sztucznej inteligencji

Pan Le Hong Duc, założyciel OneAds Digital Company Limited, powiedział, że produkty generowane przez sztuczną inteligencję, takie jak filmy, obrazy czy głosy, osiągają zadziwiający poziom realizmu i mogą być nawet bezpośrednio wdrażane do produkcji i komercjalizacji. Ten wzrost przynosi wyraźne korzyści pod względem kosztów i czasu, ale może być wykorzystywany do rozpowszechniania fałszywych informacji lub wprowadzania dezorientacji społecznej. W kontekście coraz bardziej złożonych modeli sztucznej inteligencji, kontrola treści staje się pilna, zwłaszcza gdy technologia znacznie wyprzedziła tempo aktualizacji obowiązujących przepisów.

Dlatego pan Duc zaproponował pilne opracowanie specjalistycznego prawa dotyczącego sztucznej inteligencji, które jasno określi obowiązki osób tworzących i udostępniających treści związane ze sztuczną inteligencją. Rozpowszechnianie fałszywych i toksycznych treści musi być karane i surowo karane. Jednocześnie władze muszą określić kryteria ograniczające treści, które użytkownicy mogą tworzyć za pomocą sztucznej inteligencji, oraz wymagać jasnych oznaczeń. W przypadku nieprawidłowego wdrożenia, użytkownicy będą musieli ponieść odpowiedzialność prawną i zrekompensować wszelkie wyrządzone szkody. „Wydanie odrębnych ram prawnych dla sztucznej inteligencji jest niezwykle pilne, aby kontrolować tę szybko rozwijającą się technologię, przyczyniając się do utrzymania zdrowego środowiska cyfrowego i zapobiegając takim konsekwencjom, jak oszustwa, naruszenia etyki czy znieważanie innych” – podkreślił pan Duc.

Oprócz obaw prawnych, ekspert ds. bezpieczeństwa informacji dodał, że znakomity rozwój Veo3 budzi również obawy wśród twórców treści, zwłaszcza w takich dziedzinach jak film, telewizja i animacja, którym grozi stopniowe zastępowanie ich przez technologię sztucznej inteligencji, co stanowi poważne wyzwanie dla ochrony kariery i praw autorskich w branży kreatywnej. „Konieczne jest szybkie wprowadzenie przepisów dotyczących praw własności intelektualnej do treści generowanych przez sztuczną inteligencję, ponieważ sztuczna inteligencja jest obecnie w stanie tworzyć wysoce realistyczne produkty. W przeciwnym razie twórcy będą narażeni na utratę pracy z powodu fali wirtualnych dzieł zalewających rynek” – powiedział ekspert.

Uważaj na usługi podszywające się pod inne osoby

Od czasu eksplozji popularności Veo3, w mediach społecznościowych wiele kont podających się za „ekspertów od sztucznej inteligencji” zaczęło udostępniać filmy demonstracyjne, instrukcje dostępu do Veo3 lub sprzedawać konta i usługi wsparcia w cenach od 200 000 do 300 000 VND. Niektórzy użytkownicy twierdzili, że udało im się uzyskać do niego dostęp i go wypróbować, ale nie każdemu udało się go doświadczyć. Pan Le Hong Duc ostrzegł użytkowników przed fałszywymi lub nieoficjalnymi usługami i zalecił poczekanie, aż Google oficjalnie wdroży Veo3 na rynku wietnamskim, aby uniknąć oszustw finansowych, kradzieży danych lub przejęcia kontroli nad kontami Google.

Source: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm