Umělá inteligence by mohla u kyberzločinců vytvořit „syndrom vyhýbání se vině“

SGGPO 11. září 2023 11:36

Odborníci společnosti Kaspersky se podělili o svou analýzu možných důsledků umělé inteligence (AI), zejména potenciálních psychologických rizik této technologie.

Pan Vitalij Kamluk hovoří o umělé inteligenci

Vitalij Kamluk, ředitel globálního výzkumného a analytického týmu (GReAT) společnosti Kaspersky pro Asii a Tichomoří , prozradil, že když kyberzločinci používají umělou inteligenci k páchání trestných činů, mohou vinit technologii a cítit se méně zodpovědní za následky kybernetického útoku.

„Kromě technologických hrozeb, které představuje umělá inteligence, existuje také potenciální hrozba psychologická. Běžný psychologický syndrom mezi kyberzločinci je známý jako ‚syndrom vyhýbání se zločinu‘. Při útoku nebo zranění kolemjdoucích jsou pachatelé pod velkým psychologickým tlakem z toho, že jsou svědky přímých důsledků svých činů. To se však netýká kyberzločince, který krade a útočí na oběť, kterou nikdy nevidí,“ vysvětlil Kamluk.

Dalším psychologickým vedlejším účinkem umělé inteligence, který může ovlivnit týmy IT bezpečnosti, je „delegování odpovědnosti“. K tomu dochází, když je stále více procesů a nástrojů kybernetické bezpečnosti automatizováno a delegováno na umělé neuronové sítě. Lidé se mohou cítit méně zodpovědní, pokud dojde ke kybernetickému útoku, zejména v korporátním prostředí.

„S rozvojem umělé inteligence jsme byli svědky průlomů v technologiích, které dokáží syntetizovat obsah podobný tomu, co dělají lidé: od obrázků po zvuk, deepfake videa a dokonce i textové konverzace, které jsou k nerozeznání od lidských. Stejně jako většina technologických průlomů je i umělá inteligence dvousečnou zbraní. Vždy ji můžeme využít ve svůj prospěch, pokud víme, jak pro tyto inteligentní stroje nastavit bezpečné pokyny,“ dodal Kamluk.

Zdroj