Zabránění tomu, aby technologie překračovaly etické hranice

Díky rychlému tempu vývoje vytváří umělá inteligence (AI) „revoluci“ v mnoha oblastech – od zdravotnictví, vzdělávání , podnikání… až po každodenní život. Negativní aspekty této technologie však představují značné výzvy pro správu a kontrolu informací v kyberprostoru.

Zaplaveno falešnými zprávami generovanými umělou inteligencí

Falešné zprávy generované umělou inteligencí se šíří na platformách sociálních médií, a to především za účelem získání zhlédnutí, lajků, zvýšení interakcí za účelem online prodeje nebo zisku z platformy.

Lidé, kteří vytvářejí falešné zprávy, často „sledují“ žhavá aktuální témata, která se dotýkají veřejnosti. Například po vážné dopravní nehodě 17. září na trhu Tan Long v obci Lao Bao v provincii Quang Tri , která si vyžádala 12 zraněných a mrtvých lidí, se na sociálních sítích objevila řada srdcervoucích snímků, které dojaly mnoho diváků k slzám. Policie v obci Lao Bao, která dospěla k závěru, že tyto snímky byly vytvořeny umělou inteligencí, vydala varování před šířením falešných obrázků, které způsobují nedorozumění. Tento čin nejenže způsobuje šíření falešných informací, ale také ovlivňuje vyšetřování.

Podobně mnoho účtů na sociálních sítích využilo pozornosti veřejnosti ohledně ztroskotání turistické lodi Blue Bay 58 v zátoce Ha Long v provincii Quang Ninh 19. července, při kterém zahynuly desítky lidí. Zveřejnilo však dojemné obrázky a příběhy o obětech. Mnoho z těchto obsahů však bylo falešných, vytvořených pomocí umělé inteligence, která měla „zasáhnout“ emoce a přilákat k interakci uživatele sociálních médií. Je třeba poznamenat, že rozšířené falešné obrázky s přehnaným soucitným obsahem by mohly rodinám obětí způsobit další emocionální trauma.

Díky každodennímu zdokonalování technologií umělé inteligence stačí během několika minut pomocí jednoduchých příkazů vytvořit video s atraktivním obsahem, které odpovídá záměru uživatele. Zejména platformy umělé inteligence nové generace, jako jsou KlingAI, Veo 3, Sora..., jsou velmi oblíbené u uživatelů po celém světě, včetně Vietnamu.

Technologie deepfake – kombinace hlubokého učení a falešných informací – navíc vyvolala velké obavy po celém světě, protože ji lze použít k vytváření realistických obrázků, zvuků nebo videí, které je velmi obtížné odhalit jako falešné. V důsledku toho došlo k řadě podvodů souvisejících s touto technologií ve Vietnamu i ve světě.

Generálporučík Nguyen Minh Chinh, stálý viceprezident Národní asociace pro kybernetickou bezpečnost, poznamenal, že existuje trend zneužívání umělé inteligence k nelegálním účelům. Zejména AI-as-a-Service (služby poskytující nástroje a aplikace umělé inteligence - PV) je kyberzločinci zneužívána k vytváření škodlivého kódu, falešných hlasů, obličejů, textových zpráv... k páchání podvodů, útokům na sítě, infiltraci datových systémů, dokonce i k způsobování bezpečnostní nestability a ničení reputace organizací, podniků a vedoucích pracovníků.

Podle pana Tran Ngoc Anha, technického ředitele společnosti Cyber Peace Company Limited (CyPeace), je jedním z rizik pro uživatele umělé inteligence to, že mohou obdržet falešné informace vytvořené tímto nástrojem. Kromě toho existuje řada dalších problémů, jako je zveřejnění důvěrných informací, osobních údajů...

Zabránění technologiím v překračování etických hranic - Fotografie 1.

Zabránění technologiím v překračování etických hranic - Fotografie 2.

Falešné obrázky se šíří na internetu, aby „vyvolaly slzy“ u diváků, čímž přilákají lajky a zvýší interakce (Snímek obrazovky)

Zvyšte odpovědnost uživatelů

Než budou existovat technologická a právní opatření k přísné kontrole vývoje a používání umělé inteligence, musí uživatelé tuto technologii proaktivně a zodpovědně používat.

Expert na kybernetickou bezpečnost Vu Ngoc Son, vedoucí technologického oddělení Národní asociace pro kybernetickou bezpečnost, poukázal na to, že lidé jsou subjekty, které umělou inteligenci využívají a používají, takže dobré i špatné stránky umělé inteligence úzce souvisejí s lidmi. Pokud jsou uživatelé kvalifikovaní a používají ji k dobrým účelům, technologie podpoří její prospěšné silné stránky. Naopak, pokud uživatelé umělé inteligenci nerozumí nebo ji zneužívají k nezákonným účelům, může to mít vážné následky. „Aby bylo možné umělou inteligenci efektivně používat a využívat, je nutné se zaměřit na budování týmů a procesů. Umělá inteligence propaguje svou hodnotu pouze tehdy, když je svěřena těm, kteří ji vědí ovládat,“ uvedl expert na kybernetickou bezpečnost.

Vzhledem k nebezpečí deepfake – hlavního nástroje technologických podvodů v současnosti – ministerstvo financí v procesu tvorby zákona o investicích a podnikání rovněž zdůraznilo: Podnikání v oblasti deepfake technologií musí být regulováno jako podmíněná obchodní linie, aby se zabránilo zneužívání technologií, které by mohlo způsobit narušení informační bezpečnosti, podvody... Podle ministerstva financí je v současné době podnikání v oblasti deepfake technologií jednou z nových oblastí, která představuje komplexní rizika pro bezpečnost a pořádek, ale není regulováno jako podmíněná obchodní linie.

Podle právníka Tran Anh Tuana (Hanojská advokátní komora) může být použití umělé inteligence k vytváření obsahu bez povolení, zejména vytváření nepravdivých, falešných nebo podvodných informací, v rozporu s ustanoveními občanského zákoníku. V souladu s tím budou pachatelé podléhat správním sankcím nebo náhradě škody. V případě závažných následků může být stíhána trestní odpovědnost. „Uživatelé musí být opatrní při přístupu k umělé inteligenci a jejím používání, absolutně se vyvarovat zneužívání umělé inteligence k získávání zhlédnutí a lajků; posílit osobní odpovědnost, dodržovat zákon při používání umělé inteligence i při účasti v online prostředí,“ doporučil právník Tuan.

Generálporučík Nguyen Minh Chinh zdůraznil, že klíčovým faktorem udržitelného rozvoje umělé inteligence jsou lidské zdroje. Od výzkumníků, inženýrů, expertů na kybernetickou bezpečnost až po manažery a uživatele, všichni musí být plně vybaveni znalostmi, dovednostmi, etikou a právním povědomím. Podle pana Chinha to není jen tým, který vytváří a provozuje systémy umělé inteligence, ale také klíčová síla v prevenci, odhalování a boji proti high-tech zločinům v kyberprostoru.

Vietnam bude mít zákon o umělé inteligenci

Na nedávné národní vědecké konferenci o umělé inteligenci ministr vědy a technologií Nguyen Manh Hung uvedl, že umělá inteligence otevírá velké příležitosti, ale také vyvolává mnoho otázek týkajících se etiky, zaměstnanosti a sociální důvěry. Proto musí být umělá inteligence vyvíjena rychle, bezpečně a humánně.

Podle ministra Nguyen Manh Hunga umělá inteligence nenahrazuje lidi, ale slouží jim, je jejich asistentem. Umělá inteligence je mocný nástroj, ale lidé jsou těmi, kdo rozhodují, takže ať umělá inteligence podporuje, nikoli nahrazuje lidské myšlení, hodnoty a odpovědnosti. „Ministerstvo vědy a techniky vydá národní etický kodex umělé inteligence, který bude v souladu s mezinárodními standardy, ale bude navržen tak, aby vyhovoval vietnamské praxi, a zároveň vypracuje zákon o umělé inteligenci a strategii pro umělou inteligenci,“ informoval ministr Nguyen Manh Hung.

Zdroj: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm