Los piratas informáticos utilizaron inteligencia artificial para atacar a Gemini de Google.

Según BGR , un nuevo informe de investigación acaba de revelar una técnica alarmante llamada 'Fun-Tuning', que utiliza IA (inteligencia artificial) para generar automáticamente ataques de inyección rápida altamente efectivos dirigidos a otros modelos de IA avanzados, incluido Gemini de Google.

Este método hace que hackear la IA sea más rápido, más barato y más fácil que nunca, lo que marca una nueva escalada en la batalla de la ciberseguridad que involucra a la IA.

El peligro de que actores maliciosos utilicen IA para destruir IA.

La inyección inmediata es una técnica mediante la cual actores maliciosos insertan sigilosamente instrucciones dañinas en los datos de entrada de un modelo de IA (por ejemplo, mediante comentarios en el código fuente o texto oculto en la web). El objetivo es engañar a la IA, obligándola a ignorar las reglas de seguridad preprogramadas, lo que conlleva graves consecuencias, como la filtración de datos confidenciales, la divulgación de información errónea o la realización de otras acciones peligrosas.

Los piratas informáticos están utilizando la IA para atacar a la IA.

FOTO: CAPTURA DE PANTALLA DE LINKEDIN

Anteriormente, ejecutar con éxito estos ataques, especialmente en modelos "cerrados" como Gemini o GPT-4, a menudo requería una gran cantidad de pruebas manuales complejas y que consumían mucho tiempo.

Pero Fun-Tuning cambió por completo el panorama. Desarrollado por un equipo de investigadores de varias universidades, este método aprovecha inteligentemente la refinada interfaz de programación de aplicaciones (API) que Google ofrece gratuitamente a los usuarios de Gemini.

Al analizar las respuestas sutiles del modelo Gemini durante el proceso de ajuste (por ejemplo, cómo responde a errores en los datos), Fun-Tuning puede identificar automáticamente los prefijos y sufijos más efectivos para enmascarar una declaración maliciosa. Esto aumenta significativamente la probabilidad de que la IA cumpla con la intención maliciosa del atacante.

Los resultados de las pruebas muestran que Fun-Tuning logró una tasa de éxito de hasta el 82% en algunas versiones de Gemini, una cifra muy superior al menos del 30% logrado por los métodos de ataque tradicionales.

Lo que aumenta el peligro del Fun-Tuning es su bajísimo coste de ejecución. Dado que la API de Google para tuning es gratuita, el coste computacional para crear un ataque efectivo puede ser de tan solo 10 $. Además, los investigadores han descubierto que un ataque diseñado para una versión de Gemini puede aplicarse fácilmente a otras versiones, lo que aumenta el riesgo de ataques generalizados.

Google ha confirmado que es consciente de la amenaza que representa la técnica Fun-Tuning, pero aún no ha comentado si cambiará el funcionamiento de la API de ajuste. El equipo de investigación también señaló la dificultad de defenderse contra esto: si la información explotada por Fun-Tuning se elimina del proceso de ajuste, la API perderá utilidad para los desarrolladores legítimos. Por el contrario, si permanece sin cambios, seguirá siendo una plataforma para que actores maliciosos la exploten.

La aparición del Fun-Tuning es una clara advertencia: la confrontación en el ciberespacio ha entrado en una nueva fase más compleja. La IA ya no es solo un objetivo, sino también una herramienta y un arma en manos de actores maliciosos.

Fuente: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm