El mundo necesita actuar con urgencia para hacer frente a esta amenaza antes de que la IA se vuelva incontrolable para los humanos.
La advertencia urgente fue emitida en un comunicado del 23 de junio por el Consejo de Monitoreo y Evaluación de Inteligencia de los Cinco Ojos (FIORC), que afirmó que establecer salvaguardias contra la IA ahora es esencial para prevenir el riesgo de una crisis global de ciberseguridad.
Los países creen que el ritmo de desarrollo de la IA supera con creces el desarrollo de mecanismos para gestionar y proteger la seguridad.
El comunicado decía: Se prevé que los modelos avanzados de IA superen pronto las expectativas actuales, transformando radicalmente las capacidades de ciberataque y defensa. El plazo no es de años, sino de meses.
Una de las preocupaciones es el uso cada vez mayor de grandes modelos de lenguaje (LLM, por sus siglas en inglés) para automatizar el proceso de escritura de código malicioso. La tecnología deepfake (suplantación de imágenes y voces basada en IA) también se está desarrollando a un ritmo alarmante.
Los riesgos no se limitan a los delitos cibernéticos o al fraude financiero; la IA también puede utilizarse para manipular la opinión pública, difundir desinformación y afectar directamente a la seguridad nacional.
La alianza emitió recomendaciones urgentes, centrándose en un cambio radical hacia un modelo de prevención proactivo y una mayor responsabilidad por parte de las grandes corporaciones tecnológicas en relación con los productos de IA que desarrollan.
Es necesario integrar las medidas de ciberseguridad desde la fase de diseño del sistema. Se debe mejorar el intercambio de datos e información en tiempo real entre los sectores público y privado…
Según el Centro Australiano de Ciberseguridad (ACSC), si no se establecen rápidamente estándares de seguridad globales para la IA, el mundo podría enfrentarse al riesgo de que internet sea manipulado por algoritmos cada vez más complejos y difíciles de controlar.
Fuente: https://nhandan.vn/canh-bao-rui-ro-ai-gia-tang-post971028.html








