Zabraňte tomu, aby technologie překračovaly etické hranice.

Rostoucí využívání umělé inteligence k neetickým účelům vytvořilo naléhavou potřebu kontroly technologií a zvýšené odpovědnosti uživatelů.

Díky rychlému tempu vývoje umělá inteligence (AI) způsobuje revoluci v mnoha oblastech – od zdravotnictví, vzdělávání a podnikání až po každodenní život. Nevýhody této technologie však představují značné výzvy pro správu a kontrolu informací v kyberprostoru.

Zaplaveni falešnými zprávami generovanými umělou inteligencí.

Falešné zprávy generované umělou inteligencí se šíří na platformách sociálních médií primárně za účelem získání zhlédnutí, lajků a zapojení pro online prodej nebo za účelem zisku z platformy.

Ti, kdo vytvářejí falešné zprávy, často těží z aktuálních událostí, které přitahují pozornost veřejnosti. Například po vážné dopravní nehodě 17. září na trhu Tan Long v obci Lao Bao v provincii Quang Tri , která si vyžádala 12 obětí, se na sociálních sítích objevily srdcervoucí snímky, které dojaly mnoho diváků k slzám. Policie v obci Lao Bao identifikovala tyto snímky jako vytvořené umělou inteligencí a vydala varování před šířením těchto zavádějících falešných obrázků. Toto chování nejen šíří falešné informace, ale také brání vyšetřování.

Podobně mnoho účtů na sociálních sítích využilo pozornosti veřejnosti ohledně převrácení turistické lodi Green Bay 58 v zátoce Ha Long v provincii Quang Ninh 19. července, při kterém zahynuly desítky lidí. Zveřejnilo však emotivní obrázky a příběhy o obětech. Významná část tohoto obsahu však byla falešná, vytvořená pomocí umělé inteligence k manipulaci s emocemi a přilákání uživatelů sociálních médií k interakci. Je třeba poznamenat, že rozšířené používání falešných obrázků s přehnanou soustrastí by mohlo rodiny obětí dále traumatizovat.

Díky neustálému zdokonalování technologie umělé inteligence stačí jen pár minut a jednoduché příkazy k vytvoření videa s poutavým obsahem, který dokonale odpovídá záměrům uživatele. Mezi nimi jsou platformy umělé inteligence nové generace, jako jsou KlingAI, Veo 3 a Sora, velmi oblíbené u uživatelů po celém světě, včetně Vietnamu.

Technologie deepfake – kombinace hlubokého učení a falešných děl – je navíc celosvětově velkým problémem, protože ji lze použít k vytváření obrázků, zvuků nebo videí, které vypadají tak reálně, že je velmi obtížné je odhalit jako falešné. V důsledku toho došlo k četným podvodům souvisejícím s touto technologií jak ve Vietnamu, tak po celém světě.

Generálporučík Nguyen Minh Chinh, stálý místopředseda Národní asociace pro kybernetickou bezpečnost, poznamenal rostoucí trend zneužívání umělé inteligence k nelegálním účelům. Konkrétně kyberzločinci zneužívají umělou inteligenci jako službu (AI-as-a-Service, nástroje a aplikace poskytované umělou inteligencí) k vytváření malwaru, falešným hlasům, obličejům a textům... pro účely podvodů, kybernetických útoků, narušení datových systémů a dokonce i k destabilizaci bezpečnosti a poškození reputace organizací, podniků a vedoucích pracovníků.

Podle pana Tran Ngoc Anha, technického ředitele společnosti Hoa Binh Cyber ​​​​Space Company Limited (CyPeace), je jedním z rizik pro uživatele umělé inteligence možnost obdržení dezinformací generovaných samotným nástrojem. Kromě toho existuje řada dalších problémů, jako je únik důvěrných informací a osobních údajů.

Falešné obrázky se šíří online, aby „rozplakaly diváky“, čímž získávají lajky a zvyšují interakci (snímek obrazovky).

Posílení odpovědnosti uživatelů

Než budou zavedena technologická a právní opatření k přísné kontrole vývoje a používání umělé inteligence, musí uživatelé tuto technologii proaktivně a zodpovědně používat.

Expert na kybernetickou bezpečnost Vu Ngoc Son, vedoucí Technologického výboru Národní asociace pro kybernetickou bezpečnost, poukázal na to, že lidé jsou subjekty, které využívají a používají umělou inteligenci, takže jak dobré, tak špatné stránky umělé inteligence jsou s lidmi úzce spjaty. Pokud jsou uživatelé zkušení a používají ji k dobrým účelům, technologie využije její silné stránky ve svůj prospěch. Naopak, pokud uživatelé umělé inteligenci nerozumí nebo ji zneužívají k nelegálním účelům, může to mít vážné následky. „Aby bylo možné umělou inteligenci efektivně používat a využívat, je nutné se zaměřit na budování týmu a procesů. Umělá inteligence si uvědomí svou hodnotu pouze tehdy, když je svěřena těm, kteří ji vědí ovládat,“ uvedl expert na kybernetickou bezpečnost.

Vzhledem k nebezpečí technologie deepfake – předního nástroje usnadňujícího současné kybernetické podvody – Ministerstvo financí během přípravy zákona o investicích a podnikání zdůraznilo, že podnikání v oblasti technologie deepfake musí být regulováno jako podmíněný obchodní sektor, aby se zabránilo zneužívání technologie, které způsobuje narušení informací a podvody. Podle Ministerstva financí je podnikání v oblasti technologie deepfake v současné době jednou z nových oblastí s komplexními potenciálními riziky pro bezpečnost a pořádek, přesto není regulováno jako podmíněný obchodní sektor.

Podle právníka Tran Anh Tuana (Hanojská advokátní komora) může používání umělé inteligence k vytváření obsahu bez povolení, zejména k vytváření nepravdivých, vykonstruovaných nebo podvodných informací, porušovat ustanovení občanského zákoníku. Pachatelé mohou čelit správním pokutám nebo náhradě škody. V případech, které způsobí závažné následky, může být vynucena trestní odpovědnost. „Uživatelé musí být při přístupu k umělé inteligenci a jejím používání opatrní a absolutně se vyhýbat jakýmkoli činnostem, které umělou inteligenci zneužívají k získávání zhlédnutí nebo lajků; měli by posílit osobní odpovědnost a dodržovat zákon při používání umělé inteligence a účasti v online prostředí,“ doporučil právník Tuan.

Generálporučík Nguyen Minh Chinh zdůraznil, že klíčovým prvkem udržitelného rozvoje umělé inteligence jsou lidské zdroje. Od výzkumníků, inženýrů, expertů na kybernetickou bezpečnost až po manažery a uživatele, každý musí být plně vybaven znalostmi, dovednostmi, etikou a právním povědomím. Podle něj to není jen tým, který vytváří a provozuje systémy umělé inteligence, ale také klíčová síla v prevenci, odhalování a boji proti high-tech zločinům v kyberprostoru.

Vietnam bude mít zákon o umělé inteligenci.

Na nedávné národní vědecké konferenci o umělé inteligenci ministr vědy a technologií Nguyen Manh Hung uvedl, že umělá inteligence otevírá velké příležitosti, ale také vyvolává mnoho otázek týkajících se etiky, zaměstnanosti a sociální důvěry. Vývoj umělé inteligence proto musí být rychlý, bezpečný a humánní.

Podle ministra Nguyen Manh Hunga umělá inteligence nenahrazuje lidi, ale slouží jim a působí jako jejich asistent. Umělá inteligence je mocný nástroj, ale lidé jsou těmi, kdo rozhodují; proto by umělá inteligence měla lidské myšlení, hodnoty a odpovědnost podporovat, nikoli nahrazovat. „Ministerstvo vědy a techniky vydá národní etický kodex pro umělou inteligenci, který bude harmonizován s mezinárodními standardy, ale navržen tak, aby vyhovoval vietnamské realitě, a také vypracuje zákon o umělé inteligenci a strategii pro umělou inteligenci,“ uvedl ministr Nguyen Manh Hung.

Zdroj: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm