Riesgos del asistente de IA "omnisciente" de Moltbot

Moltbot destaca por su capacidad para realizar automáticamente las tareas asignadas por el usuario. Foto: Moltbot .

Moltbot, antes conocido como Clawdbot, es un agente de IA que se ejecuta localmente en múltiples dispositivos. Los usuarios pueden indicarle a Moltbot que realice tareas en su nombre a través de plataformas de mensajería populares como WhatsApp, Telegram, Signal, Discord o iMessage. En las redes sociales, muchas personas comparten cómo utilizan Moltbot para gestionar recordatorios, registrar datos de salud o incluso comunicarse con clientes.

Federico Viticci, editor de MacStories , comentó que instaló Moltbot en un Mac Mini M4 y lo convirtió en una herramienta para crear resúmenes de audio diarios a partir de datos de las aplicaciones Calendario, Notion y Todoist. En otro caso, un usuario compartió que Moltbot podía generar automáticamente expresiones faciales animadas y añadir un efecto de "sueño" sin intervención manual.

En cuanto a su funcionamiento, Moltbot reenvía las solicitudes de los usuarios al proveedor de IA que hayan elegido, como OpenAI, Anthropic o Google. Al igual que muchos otros asistentes, puede rellenar formularios directamente en el navegador, enviar correos electrónicos y gestionar calendarios. Sin embargo, según los comentarios de algunos usuarios, Moltbot realiza estas tareas de forma más eficiente y flexible.

Sin embargo, también requiere que los usuarios otorguen un acceso muy profundo al sistema informático, incluyendo la lectura y escritura de archivos, así como la ejecución de comandos. Combinar los privilegios de administrador del dispositivo con las credenciales de inicio de sesión de la aplicación puede generar graves riesgos de seguridad si no se controla rigurosamente.

Rachel Tobac, directora ejecutiva de SocialProof Security, advierte que si un agente de IA como Moltbot obtiene privilegios de administrador en un ordenador, los atacantes podrían intentar tomar el control del sistema mediante un simple mensaje. Según Tobac, los agentes de IA automatizados pueden ser explotados mediante ataques de inyección de mensajes, una vulnerabilidad que ha sido identificada pero que aún no tiene una solución definitiva. Los ataques de inyección de mensajes se producen cuando un atacante manipula la IA con instrucciones maliciosas, enviadas directamente o ocultas en archivos, correos electrónicos o sitios web que la IA procesa.

Moltbot podría suponer un riesgo para la seguridad. Foto: Moltbot .

Estas preocupaciones se vieron reforzadas aún más cuando Jamieson O'Reilly, experto en seguridad y fundador de la empresa de ciberseguridad Dvuln, descubrió que algunos mensajes privados, información de inicio de sesión de cuentas y claves API relacionadas con Moltbot se habían filtrado en línea.

Por consiguiente, estos datos podrían ser utilizados por piratas informáticos para robar información o llevar a cabo otros ataques. Según The Register , el usuario informó del problema al equipo de desarrollo de Moltbot y se ha publicado un parche.