Pozor na obrázky generované umělou inteligencí, pokud je ohrožena bezpečnost informací

V době rychlého technologického rozvoje se na platformách sociálních sítí šíří trend využívání umělé inteligence (AI) k vytváření obrázků, což přitahuje pozornost mnoha uživatelů, zejména mladých lidí. Fotografie vytvořené pomocí AI jsou vysoce kreativní, slouží k zábavě, personalizaci obsahu a vyjádření osobnosti. Za touto přitažlivostí se však skrývají potenciální rizika pro bezpečnost a ochranu informací.

Zábava, nebo potenciální spouštěč?

Podle hanojské policie se v poslední době objevil trend využívání umělé inteligence (AI) k vytváření obrázků, což přitahuje pozornost mnoha uživatelů. Ačkoli se tyto obrázky používají hlavně pro zábavní účely, jejich šíření představuje mnoho potenciálních rizik, která přímo ovlivňují informační bezpečnost a ochranu, zejména během 80. výročí srpnové revoluce a Národního svátku země 2. září.

V současné době mohou uživatelé snadno přistupovat k obrázkům a vytvářet je prostřednictvím softwaru umělé inteligence a používat je jako avatary, zprávy a články na sociálních sítích, jako jsou Zalo, Tiktok, Facebook atd. Pokud však uživatelé nejsou opatrní, politicky necitliví a nekontrolují obrázky generované umělou inteligencí, mohou používat nepřesné obrázky, jako například obrázky mapy Vietnamu, které postrádají informace o souostrovích Hoang Sa a Truong Sa; obrázky, které nejsou vhodné pro Vietnamce. Používání těchto nepřesných obrázků bude mít velký dopad na veřejné mínění v kyberprostoru a může vytvářet mylné vnímání otázek hraniční suverenity, stejně jako historie a národních kulturních tradic.

Umělá inteligence vytváří obrázek Ao Dai s vytištěnou mapou Vietnamu, na které chybí souostroví Hoang Sa - Truong Sa. (Foto: Hanojská městská policie)

Uživatel sociálních médií v Hanoji pomocí softwaru umělé inteligence vytvořil fotografii ao dai s vytištěnou mapou Vietnamu a poté ji zveřejnil na TikToku v reakci na trend „národní hrdosti“. Na obrázku vytvořeném umělou inteligencí však chyběla souostroví Hoang Sa a Truong Sa. Příspěvek se rychle stal virálním a přilákal tisíce zhlédnutí a sdílení, ale setkal se také s ostrými reakcemi online komunity. Úřady zasáhly a požadují odstranění obsahu a varují před šířením nepravdivých informací týkajících se národní suverenity .

Varování od úřadů

Podle pana Vu Ngoc Sona, technického ředitele vietnamské Národní společnosti pro kybernetickou bezpečnost – NCS, se v poslední době umělá inteligence a aplikace založené na umělé inteligenci velmi silně rozvíjejí v mnoha oblastech života. ChatGPT je ve skutečnosti aplikace, která je snadno dostupná pro většinu lidí, kteří nejsou IT profesionály, takže rychle vyvolala nárůst zájmu.

Z technologického hlediska nepředstavuje ChatGPT v porovnání s jinými existujícími technologiemi založenými na umělé inteligenci žádný průlom, ale z hlediska dat byl ChatGPT velmi úspěšný, když vycházel z obrovského množství dat v mnoha oblastech, což uživatelům dává pocit, že „vědí všechno“. To je také doposud přitažlivé na ChatGPT.

Z hlediska bezpečnosti byl samotný ChatGPT vytvořen za účelem poskytování služby otázek a odpovědí, takže největším rizikem je, zda obsah, na který ChatGPT uživatelům odpovídá, bude někým kontrolován nebo „otráven“, aby ChatGPT poskytoval nepravdivé informace. V současné době neexistují žádné důkazy o tom, že by ChatGPT mohl být napaden, protože vstupní data jsou touto společností kontrolována, prověřována a dokonce označována lidmi, takže výše uvedená rizika byla omezena. V budoucnu, až se tato služba bude dále rozšiřovat, se však poptávka po dalších vstupních datech dramaticky zvýší a rizika kontroly dat budou vyžadovat, aby výrobci měli přísnější bezpečnostní opatření.

Software s umělou inteligencí může přinést mnoho výhod, včetně schopnosti vytvářet atraktivní a kreativní obrázky, ale pokud se používá nezodpovědně, může se stát „dvousečnou zbraní“. Oddělení kybernetické bezpečnosti a prevence kriminality v oblasti high-tech policie města Hanoje doporučuje lidem:

1. V žádném případě nevytvářejte a nepoužívejte obrázky mapy Vietnamu ani obrázky, které jsou nesprávné, porušují právní předpisy nebo jsou v rozporu s vietnamskými tradicemi, zvyky a kulturou.

2. Pravidelně sdílejte varovné informace s příbuznými, přáteli a komunitou, abyste zvýšili povědomí a předcházeli spiknutím a trikům nepřátelských sil. Nedovolte, aby občané zneužívali významných politických událostí v zemi k páchání nezákonných činů.

3. Při instalaci a používání neověřených aplikací s umělou inteligencí buďte opatrní, abyste se vyhnuli riziku shromažďování vašich osobních údajů.

4. Mějte při účasti na aktivitách na sociálních sítích smysl pro odpovědnost vůči sobě i vůči komunitě.

Porušení budou přísně řešena v souladu s ustanoveními zákona.

Jako uživatel musí mít každý jednotlivec jasný smysl pro odpovědnost, když se angažuje v kyberprostoru. „Zachycení trendů“ by nemělo být vyměňováno za nevědomost nebo neúmyslnou podporu protiprávního jednání. Úkolem médií není jen informovat o novinkách, ale také orientovat veřejné mínění a přispívat k ochraně pravdy a národních hodnot.

Zdroj: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html