Buďte opatrní s obrázky generovanými umělou inteligencí, pokud je ohrožena bezpečnost informací

V době rychlého technologického rozvoje se na platformách sociálních sítí šíří trend využívání umělé inteligence (AI) k vytváření obrázků, což přitahuje pozornost mnoha uživatelů, zejména mladých lidí. Fotografie vytvořené pomocí AI jsou vysoce kreativní, slouží k zábavě, personalizaci obsahu a vyjádření osobnosti. Za touto přitažlivostí se však skrývají potenciální rizika týkající se bezpečnosti a ochrany informací.

Zábava, nebo potenciální spouštěč?

Podle hanojské policie se v poslední době objevil trend využívání umělé inteligence (AI) k vytváření obrázků, což přitahuje pozornost mnoha uživatelů. Ačkoli se tyto obrázky používají hlavně pro zábavní účely, jejich šíření představuje mnoho rizik, která přímo ovlivňují bezpečnost a ochranu informací, zejména během 80. výročí srpnové revoluce a Národního svátku země 2. září.

V současné době mohou uživatelé snadno přistupovat k obrázkům a vytvářet je prostřednictvím softwaru umělé inteligence a používat je jako avatary, vkládat zprávy a články na sociální sítě, jako jsou Zalo, Tiktok, Facebook... Pokud však uživatelé nejsou opatrní, politicky necitliví a nekontrolují obrázky generované umělou inteligencí, mohou používat nepřesné obrázky, jako například obrázky mapy Vietnamu bez informací o souostrovích Hoang Sa a Truong Sa; obrázky, které nejsou vhodné pro Vietnamce. Použití těchto nepřesných obrázků výrazně ovlivní veřejné mínění v kyberprostoru a může vytvořit mylné vnímání otázky hraniční suverenity, stejně jako historie a národních kulturních tradic.

Umělá inteligence vytváří obrázek ao dai s vytištěnou mapou Vietnamu, na které chybí souostroví Hoang Sa a Truong Sa. (Foto: Městská policie Hanoje)

Uživatel sociálních médií v Hanoji pomocí softwaru umělé inteligence vytvořil fotografii ao dai s vytištěnou mapou Vietnamu a poté ji zveřejnil na TikToku v reakci na trend „národní hrdosti“. Na obrázku vytvořeném umělou inteligencí však chyběly Paracelské a Spratlyho ostrovy. Příspěvek se rychle stal virálním a přilákal tisíce zhlédnutí a sdílení, ale zároveň se setkal s ostrou reakcí online komunity. Úřady zasáhly a požadovaly odstranění obsahu a varovaly před šířením nepravdivých informací týkajících se národní suverenity .

Varování od úřadů

Podle pana Vu Ngoc Sona, technického ředitele Vietnamské národní společnosti pro kybernetickou bezpečnost – NCS, se v poslední době umělá inteligence a aplikace založené na umělé inteligenci velmi silně rozvíjejí v mnoha oblastech života. ChatGPT je ve skutečnosti aplikace, která je snadno dostupná pro většinu lidí, kteří nejsou IT specialisty, takže rychle vyvolala nárůst zájmu.

Z technologického hlediska nepředstavuje ChatGPT v porovnání s jinými existujícími technologiemi založenými na umělé inteligenci žádný průlom, ale z hlediska dat byl ChatGPT velmi úspěšný, když vycházel z obrovského množství dat v mnoha oblastech, což uživatelům dává pocit, že „vědí všechno“. To je také doposud přitažlivé na ChatGPT.

Co se týče bezpečnosti, samotný ChatGPT byl zrozen k poskytování služeb otázek a odpovědí, takže největším rizikem bude, zda obsah, na který ChatGPT uživatelům odpovídá, bude někým kontrolován a „otráven“, aby ChatGPT poskytoval nepravdivé informace. V současné době neexistují žádné důkazy o tom, že by ChatGPT mohl být napaden, protože vstupní data jsou touto společností kontrolována, prověřována a dokonce označována lidmi, takže výše uvedená rizika byla omezena. V budoucnu, až se tato služba bude dále rozšiřovat, se však potřeba většího množství vstupních dat dramaticky zvýší a rizika kontroly dat budou vyžadovat, aby výrobci zavedli přísnější bezpečnostní opatření.

Software s umělou inteligencí může přinést mnoho výhod, včetně schopnosti vytvářet atraktivní a kreativní obrázky, ale pokud se používá nezodpovědně, může se stát „dvousečnou zbraní“. Oddělení kybernetické bezpečnosti a prevence kriminality v oblasti high-tech policie města Hanoje doporučuje lidem:

1. V žádném případě nevytvářejte a nepoužívejte obrázky mapy Vietnamu ani obrázky, které jsou nesprávné, porušují zákon nebo jsou v rozporu s vietnamskými tradicemi, zvyky a kulturou.

2. Pravidelně sdílejte varovné informace s příbuznými, přáteli a komunitou, abyste zvýšili povědomí a předcházeli spiknutím a trikům nepřátelských sil. Nedovolte, aby občané zneužívali významných politických událostí v zemi k páchání nezákonných činů.

3. Při instalaci a používání neověřených aplikací s umělou inteligencí buďte opatrní, abyste se vyhnuli riziku shromažďování vašich osobních údajů.

4. Mějte při účasti na aktivitách na sociálních sítích smysl pro odpovědnost vůči sobě i vůči komunitě.

Porušení budou přísně řešena v souladu s ustanoveními zákona.

Jako uživatel musí mít každý jednotlivec jasný smysl pro odpovědnost, když se angažuje v kyberprostoru. „Zachycení trendů“ by nemělo být vyměňováno za nevědomost nebo neúmyslnou podporu protiprávního jednání. Úkolem médií není jen informovat o novinkách, ale také orientovat veřejné mínění a přispívat k ochraně pravdy a národních hodnot.

Zdroj: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html