Advertencia: ChatGPT se convierte en una nueva arma de estafa

[anuncio_1]

La IA generativa plantea una serie de riesgos de ciberseguridad, especialmente a raíz de las estafas cibernéticas generalizadas en Hong Kong, según una empresa de ciberseguridad que está implementando IA para combatir la amenaza.

Advertencia: ChatGPT se convierte en una nueva arma de estafa - 1 — Los correos electrónicos de phishing y las llamadas de suplantación de voz generadas por inteligencia artificial son cada vez más sofisticados y difíciles de detectar. (Foto: Shutterstock)

En Hong Kong, estafadores han estafado a personas por valor de 4.800 millones de dólares de Hong Kong (611,5 millones de dólares estadounidenses) mediante chats en línea, llamadas telefónicas y mensajes de texto. El audio, el vídeo y el texto generados por IA dificultan la detección de este tipo de estafas.

La aparición de herramientas de inteligencia artificial generativa como ChatGPT permitirá que ciertos tipos de estafas se vuelvan más frecuentes y efectivas, dijo Kim-Hock Leow, CEO de Wizlynx Group para Asia, una empresa de servicios de ciberseguridad con sede en Suiza.

“Observamos que la imitación de voz y video es cada vez más realista y puede ser utilizada por quienes buscan robar información y comprometer la ciberseguridad corporativa”, afirmó.

Los gobiernos están empezando a tomar medidas contra el aumento de las estafas en línea. En febrero, la Oficina Municipal de Seguridad Pública de Pekín advirtió en un comunicado en WeChat que los estafadores podrían usar la IA para "cometer delitos y difundir rumores". En marzo, la Comisión Federal de Comercio de EE. UU. emitió una advertencia sobre estafadores que utilizan voces generadas por IA para suplantar la identidad de personas utilizando solo un breve fragmento de audio de su voz en línea.

“Todos somos susceptibles a los ataques de phishing, pero se detectan fácilmente debido a la longitud, las faltas de ortografía o la falta de contexto sobre ti y tu trabajo. Pero ahora, los ciberdelincuentes pueden usar nuevos modelos de lenguaje de IA para aumentar la complejidad de sus correos electrónicos de phishing”, afirmó Kim-Hock Leow .

Estas estafas se llevan a cabo mediante una herramienta como ChatGPT para analizar y profesionalizar el lenguaje de los mensajes. Esto puede incluir una rápida investigación de antecedentes para añadir información contextual y personalizar los correos electrónicos fraudulentos.

Las empresas financieras están implementando ChatGPT para combatir estas estafas sofisticadas. Utilizan chatbots para generar correos electrónicos de phishing con fines de capacitación antifraude, así como para identificar vulnerabilidades e investigar sistemas de ciberseguridad.

“Con base en el conocimiento y los datos que la IA puede recopilar y generar con el tiempo, los expertos en ciberseguridad pueden usarlos para identificar con precisión las áreas vulnerables y de riesgo del sistema de seguridad”, compartió el Sr. Leow.

Necesitamos animar a los profesionales de la ciberseguridad y a otras industrias a utilizar ChatGPT para mejorar sus defensas. En cierto modo, es un arma de doble filo que se utilizará tanto para la ciberseguridad como para la ciberdelincuencia», añadió.

Las condiciones de servicio de OpenAI, creador de ChatGPT, prohíben el uso de su tecnología con fines ilegales. Sin embargo, aún existe el riesgo de que actores maliciosos puedan eludir los filtros de ChatGPT, afirmó Leow.

Se espera que los delitos cibernéticos cuesten 8 billones de dólares a nivel mundial este año en dinero robado, pérdida de activos y pérdida de productividad, según un informe de Cybersecurity Ventures.

Ante esta amenaza, podría estar gestándose una carrera armamentística de IA en ciberseguridad. «En los próximos años, veremos cómo los equipos de seguridad adoptan eficazmente la IA para mejorar el reconocimiento de amenazas y automatizar gran parte del proceso de defensa», afirmó David Fairman, director de información para Asia- Pacífico de Netskope.

Khanh Ly (Fuente: SCMP)

Útil
Emoción
Creativo
Único
Ira