Nové trendy v oblasti umělé inteligence v roce 2025

Podle odborníků bude v roce 2025 jedním z typických trendů vývoje umělé inteligence kladení odpovědnosti na první místo.

Rozvoj odpovědnosti je důležitým faktorem pro podporu stále užitečnější umělé inteligence. Ilustrační foto: Bloomberg.

Generativní umělá inteligence mění mnoho oblastí. Ve vzdělávání umělá inteligence podporuje učení, detekuje plagiátorství a pomáhá při výuce. V lékařství umělá inteligence podporuje obrazovou diagnostiku, personalizuje léčebné režimy a výzkum léčiv. Tento nástroj také podporuje automatickou tvorbu obsahu, podporuje zákaznickou péči a vytváří „virtuální KOL“ v podnikání a marketingu.

Spolu s výhodami vyvolává šíření generativní umělé inteligence také etické obavy, protože tento nástroj může zesilovat zkreslení a šířit dezinformace. Umělá inteligence má také potenciál ohrozit soukromí, bezpečnost dat a stabilitu pracovní síly.

Podobně jako mnoho jiných zemí světa se i Vietnam rozvíjí v oblasti generativní umělé inteligence. Aby se umělá inteligence stala pro člověka užitečným nástrojem, nikoli škodlivým, je zodpovědný vývoj umělé inteligence jedním z důležitých úkolů.

Trendy zodpovědné umělé inteligence

Dr. Sam Goundar, docent informačních technologií na RMIT Vietnam, vzpomíná na některé kontroverze kolem etiky generativní umělé inteligence. Od skandálu s pornografií Taylor Swift, přes vydávání se za bývalého amerického prezidenta Joea Bidena až po akademické podvody s využitím umělé inteligence.

„Ještě znepokojivější jsou případy chatbotů podněcujících k sebevraždě, vytváření obsahu týkajícího se zneužívání dětí, nabádání k atentátům, zaujatých náborových algoritmů nebo zneužívání bezpečnostních zranitelností umělou inteligencí.“

„Tyto problémy zdůrazňují potřebu přístupu zaměřeného na člověka, minimalizujícího zneužívání umělé inteligence a chránícího individuální i společenské zájmy,“ uvedl Dr. Goundar.

Obrazovka nástroje Microsoft Copilot. Foto: Bloomberg.

Podle Dr. Goundara bude rok 2025 svědkem trendu směrem k zodpovědné, na člověka zaměřené umělé inteligenci. Vzhledem k rostoucím obavám z předsudků, dezinformací a etických rizik se upřednostňuje technologie transparentní umělé inteligence (XAI), která pomáhá uživatelům pochopit, jak umělá inteligence činí rozhodnutí.

Několik zemí, jako jsou USA, Kanada, Austrálie, Čína, Japonsko... začalo přijímat předpisy pro umělou inteligenci s cílem řídit a zajistit etické zavádění umělé inteligence v celém odvětví.

Dalším trendem je hybridní umělá inteligence, model kombinující umělou inteligenci a lidi, který by se mohl rozvinout také v roce 2025.

V oblasti udržitelného rozvoje může umělá inteligence pomoci řešit změnu klimatu a podporovat zelené technologie. Kromě toho umělá inteligence rozšíří své uplatnění v kybernetické bezpečnosti a pomůže zlepšit schopnost analyzovat rizika a reagovat na hrozby v digitálním prostoru.

„S urychlujícím se zaváděním umělé inteligence je zajištění odpovědné správy umělé inteligence zásadní pro optimalizaci výhod technologie a snížení potenciálních rizik,“ zdůraznil Dr. Goundar.

Řešení pro zodpovědný vývoj umělé inteligence

Vietnam je jednou ze zemí, které aktivně inovují v oblasti umělé inteligence. Proto hraje důležitou roli zajištění etického vývoje umělé inteligence, které zabraňuje zkresleným algoritmům umělé inteligence, rizikům pro soukromí a ztrátě důvěry veřejnosti.

Pro rozvoj umělé inteligence v souladu s etickými principy navrhl Dr. Goundar řadu řešení, jako jsou investice do výzkumu etiky umělé inteligence a spolupráce s univerzitami na vytvoření právního rámce pro zodpovědné zavádění umělé inteligence.

Dále zvažte integraci etiky umělé inteligence do univerzitních osnov a rozšíření vzdělávacích programů v oblasti umělé inteligence pro vedoucí pracovníky, pedagogy a tvůrce politik.

Podpora odpovědnosti a etiky pomáhá umělé inteligenci stát se užitečným nástrojem pro lidi. Foto: Bloomberg.

Důležité je také zvyšování povědomí veřejnosti, které pomáhá jednotlivcům i firmám pochopit dopad umělé inteligence na soukromí. Navíc může podpořit využití umělé inteligence pro sociální účely, jako je zdraví , životní prostředí a vzdělávání, namísto zaměření se pouze na zisk.

Kromě vzdělávání a zvyšování povědomí hrají důležitou roli v udržení zodpovědného rozvoje umělé inteligence také právní rámce.

Odborníci z RMIT Vietnam navrhli řadu řešení, jako je například uplatňování přísnějších předpisů pro umělou inteligenci, přibližování se mezinárodním modelům řízení umělé inteligence, zavedení etické certifikace umělé inteligence a také vytvoření systému klasifikace rizik umělé inteligence a auditu pro posouzení a testování vysoce rizikových systémů.

„Vzhledem k tomu, že se Vietnam chce do roku 2030 stát regionální velmocí v oblasti umělé inteligence, bude jeho úspěch záviset nejen na technologickém pokroku, ale také na přísných regulacích, etických investicích do umělé inteligence a veřejném povědomí o boji proti potenciálním rizikům,“ zdůraznil Dr. Goundar.

Zdroj: https://znews.vn/xu-huong-ai-moi-cua-nam-2025-post1538816.html