DNVN - Junto con la tendencia de empoderar a la IA (inteligencia artificial) para completar tareas por sí sola, el riesgo de ataques cibernéticos aumentará exponencialmente. Lo preocupante es que algunos sistemas de IA que se supone que son potentes son en realidad muy "frágiles".
Según Patrice Caine, director general del Grupo Thales, los debates sobre el impacto de la IA son cada vez más intensos y están acompañados de mucho escepticismo sobre esta tecnología. Sin embargo, la IA es una tendencia tecnológica innegable.
Si bien algunos critican a los gigantes tecnológicos por las redes sociales impulsadas por IA o por herramientas de consumo cuestionables, la IA en sí misma se está convirtiendo en una tecnología indispensable. Su eficacia es incomparable y promete beneficios que ninguna empresa o gobierno puede permitirse ignorar.
Pronto, la IA se volverá tan integral a la vida como la electricidad: ayudará a hacer funcionar los automóviles, dar forma a los servicios de salud , proteger a los bancos y gestionar los sistemas de alumbrado público. La gran pregunta es ¿estamos preparados para lo que viene después?
Las controversias en torno a la IA se centran en gran medida en cuestiones éticas, sesgo de información y el futuro del trabajo. Pero hay un problema importante que pasa desapercibido: la seguridad de la IA. En la encuesta de Gartner de 2024 a altos ejecutivos de gestión de riesgos empresariales, los ataques maliciosos mejorados con IA y la desinformación impulsada por IA fueron los dos principales riesgos identificados.
El Sr. Patrice Caine, Director General del Grupo Thales.
Tenemos muchos motivos para preocuparnos. Los países de Asia y el Pacífico están adoptando IA de muchas maneras: en una encuesta de Finastra de 2023, las instituciones financieras vietnamitas están liderando el camino en la adopción de IA generativa (genAI) a nivel mundial. El 40% de los encuestados vietnamitas afirmaron que sus organizaciones han implementado o mejorado capacidades de procesamiento del lenguaje natural, incluida la IA generativa. Sin embargo, no podemos avanzar sin aprovechar nuestra fuerza colectiva: los gobiernos y las empresas necesitan trabajar juntos para construir un ecosistema de IA seguro y resiliente.
Con la tendencia de empoderar a la IA para completar tareas por sí sola, el riesgo de ataques cibernéticos aumentará exponencialmente. Lo preocupante es que algunos sistemas de IA que se supone que son potentes son en realidad muy "frágiles".
Hay dos formas principales de atacar un sistema de IA. La primera es hackear el sistema y robar todo, desde registros médicos personales hasta secretos comerciales corporativos. Los piratas informáticos pueden engañar a los modelos de IA para que revelen información confidencial extrayendo bases de datos médicas o engañar a los chatbots para que eludan sus propias protecciones de datos.
La segunda forma es sabotear los modelos, distorsionando peligrosamente los resultados. Por ejemplo, un automóvil que utilice tecnología de IA podría ser engañado para que lea una señal de “Alto” como una señal de velocidad de “100 km/h”. Éstos son los riesgos obvios al utilizar IA. Y a medida que las aplicaciones de IA se expandan, el riesgo de ataques al sistema aumentará claramente.
Sin embargo, abandonar la IA para evitar estos riesgos sería un gran error. Sacrificar la competitividad por la seguridad deja a las organizaciones dependientes de terceros, carentes de experiencia y control sobre una tecnología que rápidamente se está volviendo esencial.
La IA está creciendo fuertemente y es aplicada por muchas organizaciones y empresas.
¿Cómo podemos entonces aprovechar los beneficios de la IA sin correr riesgos? Aquí hay tres pasos importantes:
Elija la IA sabiamente. No todos los sistemas de IA son vulnerables. Por ejemplo, los modelos de lenguaje grandes son vulnerables porque dependen de grandes conjuntos de datos y métodos estadísticos. Pero otros tipos de IA, como los modelos simbólicos o híbridos, tienen un alcance más limitado de uso de datos y operan según reglas claras, lo que los hace más difíciles de piratear.
Los modelos de IA híbridos combinan el razonamiento simbólico con el aprendizaje automático, proporcionando explicaciones lógicas y precisas. La IA híbrida puede reducir significativamente los falsos positivos en la detección de fraude y al mismo tiempo aumentar la transparencia en la toma de decisiones. Esto es particularmente valioso para los servicios financieros y las empresas FinTech de la región.
Implementar medidas de seguridad comprobadas. Herramientas como la marca de agua digital, la criptografía y el entrenamiento personalizado pueden fortalecer los modelos de IA contra amenazas potenciales. En Asia-Pacífico, estas herramientas son esenciales para sectores como la banca, la infraestructura crítica y la atención médica, donde la transformación digital se está acelerando. En Thales, tenemos “Battle Box” que permite a los equipos de ciberseguridad probar exhaustivamente los modelos de IA para encontrar y solucionar vulnerabilidades antes de que los piratas informáticos puedan explotarlas. Estas soluciones de prueba ayudarán a las empresas a evaluar y mejorar la resiliencia del sistema frente a las crecientes amenazas a la ciberseguridad.
Mejore la ciberseguridad de su organización. La IA no opera de forma aislada: es parte del ecosistema de información de una organización. Las medidas tradicionales de ciberseguridad deben mejorarse y adaptarse a la era de la IA. Esto comienza con la capacitación de los empleados: después de todo, el error humano sigue siendo el talón de Aquiles de cualquier sistema de ciberseguridad.
La escasez de talento en ciberseguridad en Asia-Pacífico es un desafío creciente. Las empresas deben invertir en capacitar a sus empleados para proteger sus sistemas de IA. Por ejemplo, el Programa de Desarrollo de Talentos en Ciberseguridad de Singapur ofrece un modelo para cerrar la brecha de habilidades regionales.
Algunos sostienen que la guerra contra la IA es sólo una parte de un conflicto continuo entre malos y víctimas involuntarias. Pero esta vez, el precio será demasiado alto. Si las empresas y los gobiernos de Asia y el Pacífico no priorizan la seguridad de la IA, no solo corren el riesgo de sufrir violaciones de datos, sino que también obstaculizan el crecimiento económico y la innovación.
La mejor manera de responder es hacer de la seguridad de la IA una prioridad estratégica y trabajar juntos. Solo entonces podremos garantizar que la IA alcance su máximo potencial, impulsando nuevas formas de crecimiento e innovación y manteniendo a la sociedad segura.
Hoang Phuong
[anuncio_2]
Fuente: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/ai-canh-bac-may-rui-neu-thieu-cac-bien-phap-an-ninh-mang-phu-hop/20250115013404507
Kommentar (0)