El fraude con IA, una grave amenaza para la ciberseguridad

El phishing ha sido durante mucho tiempo el arma predilecta de los hackers en el mundo cibernético. Sirve como preludio a diversos ataques, permitiendo el robo de credenciales, la infiltración de infraestructura y la interrupción de operaciones.

La aparición de la inteligencia artificial (IA) trae consigo tanto potencial como desafíos, especialmente en materia de ciberseguridad.

El auge de los modelos de aprendizaje automático preentrenados (GPT) ha creado un nuevo panorama de amenazas para la ciberseguridad. GPT es un modelo de lenguaje extenso y el marco líder para la IA generativa.

La capacidad de generar texto artificial convincente a gran escala ha suscitado preocupación entre los expertos en seguridad. Esto podría tener un gran impacto en el fraude basado en IA y el fraude por correo electrónico, incluyendo el Compromiso de Correo Electrónico Empresarial (BEC).

El phishing se basa en engañar al usuario final haciéndole creer que el correo electrónico proviene de una entidad legítima. GPT puede facilitar este proceso creando respuestas que se ajusten al estilo y lenguaje, haciendo creer al destinatario que está interactuando con un colega o persona de confianza. Esto dificulta cada vez más la distinción entre texto generado por máquinas y texto generado por humanos en los mensajes.

Si bien existen herramientas para identificar texto generado por máquinas, debemos estar preparados para un escenario en el que las GPT evolucionen para eludir estas protecciones. Además, los hackers podrían aprovechar modelos similares a las GPT para crear imágenes, vídeos o atacar sectores específicos, lo que aumenta aún más los riesgos de ciberseguridad.

Para mitigar estas amenazas, tanto las personas como las organizaciones necesitan implementar rápidamente soluciones de protección de correo electrónico basadas en IA. La IA puede contrarrestar eficazmente las tácticas modernas de ciberdelincuencia e identificar actividades sospechosas.

La autenticación multifactor (MFA) y los métodos de identificación biométrica pueden mejorar la seguridad, proporcionando una capa adicional de protección contra la intrusión de piratas informáticos.

Además de las medidas tecnológicas, los programas regulares de formación y concienciación son importantes para mejorar el factor humano contra los ataques de phishing. La experiencia y la vigilancia humanas ayudarán a reconocer y responder eficazmente a los intentos de phishing. La gamificación y la simulación pueden utilizarse para concienciar e identificar a los usuarios en riesgo de ciberataques.

Ante la creciente prevalencia de las campañas de phishing impulsadas por GPT, las organizaciones deben ser proactivas en sus esfuerzos de ciberseguridad. Al comprender las capacidades de la tecnología GPT e implementar medidas de seguridad robustas, podemos defendernos eficazmente contra esta creciente amenaza de fraude impulsada por IA.

(según Barracuda)

Fuente: https://vietnamnet.vn/lua-dao-bang-ai-moi-de-doa-nghiem-trong-doi-voi-an-ninh-mang-2205857.html