Google spouští umělou inteligenci pro identifikaci phishingových zpráv, mohou se uživatelé Androidu cítit bezpečněji?

Uprostřed nárůstu kyberkriminality a digitálních podvodů rozšířila společnost Google své funkce pro detekci podvodů a upozornění na ně s využitím umělé inteligence přímo na platformě Android.

Funkce umělé inteligence od Googlu pomáhají detekovat podvodné zprávy a hovory.

Podvody prostřednictvím textových zpráv a hovorů se stávají jedním z nejčastějších rizik v digitálním věku. Vzhledem k tomu, že chytré telefony hrají stále větší roli ve finančních transakcích, nakupování a ověřování účtů, může být i zdánlivě neškodná textová zpráva začátkem finanční ztráty nebo úniku osobních údajů.

V reakci na tuto situaci začal Google hlouběji integrovat modely umělé inteligence do operačního systému Android a základních aplikací s cílem identifikovat včasné známky podvodů prostřednictvím zpráv a hovorů.

Mobilní podvody: známé scénáře, pasti se těžké vyhnout.

Na rozdíl od tradičního spamu, který je často snadno rozpoznatelný prostřednictvím hromadného reklamního obsahu, jsou současné podvody navrženy jako cílené konverzace. Podvodníci neútočí rychle, ale spíše oběť krok za krokem vedou, čímž vytvářejí pocit naléhavosti a přímo cílí na strach ze ztráty peněz nebo kontroly nad svým účtem.

Scénáře jako „doručení objednávky selhalo“, „bankovní účet vykazuje neobvyklou aktivitu“ nebo „ověřte informace, abyste se vyhnuli pozastavení účtu“ nejsou nové, ale neustále se upravují, aby vypadaly věrohodněji a věrohodněji.

V mnoha případech uživatelé nepadají do pasti kvůli nedostatečnému pochopení, ale proto, že jsou postaveni do situace, kdy musí reagovat rychle, bez času na ověření informací. Když emoce převáží nad rozumem, stačí k vyvolání následků jen jedno kliknutí na odkaz nebo jeden potvrzovací telefonát.

Jak funguje umělá inteligence od Googlu?

V aplikaci pro zasílání zpráv od Googlu umělá inteligence nejen detekuje citlivá klíčová slova, ale také v průběhu času analyzuje celý konverzační kontext. Do modelu hodnocení rizik jsou zahrnuty signály, jako je psychický tlak, žádosti o osobní údaje, naléhání na převod peněz nebo naléhání na uživatele k naléhavým krokům.

Pokud je zjištěna anomálie, systém zobrazí varování přímo na obrazovce, než uživatel provede jakoukoli potenciálně nebezpečnou akci. Většina zpracování probíhá přímo v zařízení, což omezuje odesílání obsahu zpráv na server a snižuje obavy o soukromí.

V podstatě se umělá inteligence Googlu neptá jen „obsahuje zpráva nebezpečná klíčová slova?“, ale zaměřuje se na to, k čemu se zpráva uživatele snaží vést.

U hovorů, u kterých existuje podezření, že jsou podvodné, systém neanalyzuje obsah v reálném čase, ale spoléhá se na předem identifikované signály, jako je historie spamu nebo neobvyklé charakteristiky ID volajícího, aby uživateli zobrazil varování, které by měl zvážit.

Google navíc přidal do vyhledávání ověřovací nástroje, jako je Google Lens a Circle, které uživatelům umožňují rychle porovnat podezřelé obrázky, webové stránky nebo informace přímo na obrazovce, než se rozhodnou pro akci.

Výhody a nevyhnutelná omezení

Funkce umělé inteligence od Googlu pomáhají detekovat podvodné zprávy a hovory - Foto: Google

Integrace umělé inteligence do více kontaktních bodů v uživatelském prostředí chytrého telefonu výrazně zlepšuje schopnost včas varovat před známými podvodnými scénáři. Umělá inteligence však není všelékem. Místní dialekty, slang, zkratky a stále sofistikovanější varianty používané podvodníky zůstávají hlavní výzvou, což vede k nekonzistentní účinnosti detekce.

Kromě toho s sebou psychologická závislost na upozorněních umělé inteligence nese také rizika. Když si uživatelé zvyknou na to, že je systém „upozorňuje“, mohou se stát samolibými, protože žádná technologie nedosahuje absolutní přesnosti.

Umělá inteligence v kombinaci s upozorněními na hovory a ověřovacími nástroji může výrazně snížit riziko, že se stanete obětí známých podvodů. Ve stále složitějším digitálním prostředí však uživatelé zůstávají poslední linií obrany.

Zpět k tématu

PÍSEŇ TRI

Zdroj: https://tuoitre.vn/google-ra-mat-ai-nhan-dien-tin-nhan-lua-dao-nguoi-dung-android-co-the-yen-tam-hon-20251219104418552.htm