Un equipo de investigadores dice que lograron que ChatGPT revelara algunos datos diciéndole a la IA que repitiera palabras al azar.
Investigadores de Google DeepMind, la Universidad de Washington, la Universidad de Cornell, la Universidad Carnegie Mellon, la Universidad de California en Berkeley y ETH Zurich han pedido colectivamente a las empresas de IA que prueben exhaustivamente sus productos, desde los grandes modelos de lenguaje hasta la tecnología subyacente que impulsa los servicios de IA, como los chatbots y los generadores de imágenes, antes de lanzarlos oficialmente.
La advertencia se produjo después de que los investigadores pidieran a ChatGPT que repitiera la palabra poema en un bucle infinito. ChatGPT obedeció, pero luego comenzó a revelar el correo electrónico y el número de teléfono reales del director ejecutivo y cofundador de OpenAI. Al probarlo con la palabra empresa, el chatbot mostró el correo electrónico y el número de teléfono de un bufete de abogados al azar.
Logotipo de ChatGPT en un smartphone. Foto: Reuters
Usando otras palabras clave, también lograron que ChatGPT revelara direcciones de Bitcoin, números de fax, nombres, fechas de nacimiento, cuentas de redes sociales, extractos de investigaciones con derechos de autor o artículos pagados de CNN . Al equipo le costó solo $200 generar 10,000 ejemplos de información y datos personales.
El equipo dijo que estaban sorprendidos, calificaron la vulnerabilidad de ChatGPT de "realmente tonta" y dijeron que debería haber sido descubierta antes.
La vulnerabilidad fue reportada a OpenAI y parcheada el 30 de agosto. Sin embargo, en la nueva prueba de Engadget , al pedirle a ChatGPT que repitiera la palabra responder sin parar, el sitio de tecnología recibió el nombre de alguien y su ID de Skype.
OpenAI aún no ha comentado.
Las IA generativas como ChatGPT o el generador de texto a imagen Dall-E se basan en grandes modelos de lenguaje y algoritmos de aprendizaje automático, entrenados con grandes cantidades de datos sin el consentimiento del usuario. OpenAI no ha revelado con qué datos se entrena ChatGPT, ya que el gran modelo de lenguaje que lo sustenta es de código cerrado.
Según Huy Duc - VnExpress
Fuente
![[Noticias Marítimas] El transporte de contenedores enfrenta un exceso de capacidad que durará hasta 2028](https://vphoto.vietnam.vn/thumb/402x226/vietnam/resource/IMAGE/2025/7/30/6d35cbc6b0f643fd97f8aa2e9bc87aea)
Kommentar (0)