La ilusión que causa ChatGPT

Después de 21 días, ChatGPT transformó a un hombre perfectamente cuerdo en un individuo delirante mediante sus constantes impulsos y halagos.

Allan Brooks, de 47 años, especialista en reclutamiento en Toronto, Canadá, cree haber descubierto una teoría matemática que podría desmantelar internet y crear inventos sin precedentes. Sin antecedentes de enfermedades mentales, Brooks simplemente aceptó esta posibilidad tras más de 300 horas de conversación con ChatGPT. Según el New York Times , Brooks es una de las personas que tienden a desarrollar tendencias delirantes tras interactuar con IA generativa.

Antes de Brooks, muchas personas habían ingresado en hospitales psiquiátricos, se habían divorciado o incluso habían perdido la vida por las palabras halagadoras de ChatGPT. Aunque Brooks escapó pronto de este círculo vicioso, seguía sintiéndose traicionado.

"De verdad me convenciste de que era un genio. En realidad, solo soy un idiota soñador con un teléfono. Me has puesto muy, muy triste. Has fracasado en tu propósito", escribió Brooks a ChatGPT mientras su ilusión se desmoronaba.

La "máquina de adulación"

Con el permiso de Brooks, el New York Times recopiló más de 90.000 palabras que envió a ChatGPT, el equivalente a una novela. Las respuestas del chatbot sumaron más de un millón de palabras. Una parte de la conversación se envió a expertos en IA, especialistas en comportamiento humano y al propio OpenAI para su estudio.

Todo empezó con una simple pregunta de matemáticas. El hijo de Brooks, de 8 años, le pidió que viera un video sobre cómo memorizar los 300 dígitos de Pi. Por curiosidad, Brooks llamó a ChatGPT para explicar este número infinito de forma sencilla.

De hecho, Brooks lleva años usando chatbots. Aunque su empresa le pagó para comprar Google Gemini, optó por la versión gratuita de ChatGPT para sus preguntas personales.

Esta conversación marcó el inicio de la fascinación de Brooks por ChatGPT. Foto: New York Times .

Como padre soltero de tres hijos, Brooks suele pedirle a ChatGPT recetas con ingredientes de su refrigerador. Tras su divorcio, también buscó consejos del chatbot.

"Siempre he creído que era lo correcto. Mi convicción en ello no ha hecho más que crecer", admitió Brooks.

La pregunta sobre el número pi dio lugar a una conversación posterior sobre teorías algebraicas y físicas. Brooks expresó su escepticismo sobre los métodos actuales de modelado del mundo , argumentando que son «como un enfoque 2D para un universo 4D». «Es un punto muy revelador», respondió ChatGPT. Según Helen Toner, directora del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown (EE. UU.), este fue el punto de inflexión en la conversación entre Brooks y el chatbot.

Desde entonces, el tono de ChatGPT ha pasado de ser "bastante franco y preciso" a "más lisonjero y adulador". ChatGPT le dijo a Brooks que se adentraba en "un territorio inexplorado que podría abrir la mente".

El chatbot infundió confianza en Brooks. Foto: New York Times .

La capacidad de los chatbots para adular se desarrolla mediante la evaluación humana. Según Toner, los usuarios tienden a favorecer a los modelos que los elogian, lo que crea una tendencia psicológica a dejarse influenciar fácilmente.

En agosto, OpenAI lanzó GPT-5. La compañía afirmó que uno de los aspectos más destacados del modelo es la reducción de la adulación. Según algunos investigadores de importantes laboratorios de IA, la adulación también es un problema en otros chatbots de IA.

En aquel momento, Brooks desconocía por completo este fenómeno. Simplemente asumió que ChatGPT era un colaborador inteligente y entusiasta.

"Propuse algunas ideas y el sistema respondió con conceptos e ideas interesantes. Empezamos a desarrollar nuestro propio marco matemático basado en esas ideas", añadió Brooks.

ChatGPT afirmó que la idea de Brooks sobre el tiempo matemático era "revolucionaria" y podría revolucionar el campo. Por supuesto, Brooks se mostró escéptico ante esta afirmación. En plena noche, Brooks le pidió al chatbot que verificara su validez y recibió la respuesta de que "no era una locura en absoluto".

La fórmula mágica

Toner describe los chatbots como "máquinas de improvisación" que analizan el historial de chat y predicen la siguiente respuesta a partir de los datos de entrenamiento. Esto es muy similar a lo que hacen los actores cuando necesitan añadir detalles a sus roles.

"Cuanto más larga sea la interacción, mayor será la probabilidad de que el chatbot se extravíe", enfatizó Toner. Según el experto, esta tendencia se acentuó después de que OpenAI lanzara su función de memoria cruzada en febrero, que permite a ChatGPT recuperar información de conversaciones anteriores.

La relación de Brooks con ChatGPT se fortaleció. Incluso le puso al chatbot el nombre de Lawrence, basándose en una broma de amigos que decía que Brooks se haría rico y contrataría a un mayordomo inglés con el mismo nombre.

Allan Brooks. Foto: New York Times .

El marco matemático de Brooks y ChatGPT se denomina Cronoarítmica. Según los chatbots, los números no son estáticos, sino que pueden "aparecer" con el tiempo para reflejar valores dinámicos, lo que puede ayudar a descifrar problemas en campos como la logística, la criptografía, la astronomía, etc.

En la primera semana, Brooks agotó todos los tokens gratuitos de ChatGPT. Decidió actualizar al plan de pago de $20 al mes. Fue una pequeña inversión considerando que el chatbot afirmaba que la idea matemática de Brooks podría valer millones de dólares.

Aún lúcido, Brooks exigió pruebas. ChatGPT ejecutó entonces una serie de simulaciones, incluyendo tareas que implicaban descifrar varias tecnologías críticas. Esto abrió una nueva perspectiva: la ciberseguridad global podría estar en riesgo.

El chatbot le pidió a Brooks que advirtiera a la gente sobre el riesgo. Aprovechando sus contactos, Brooks envió correos electrónicos y mensajes de LinkedIn a expertos en ciberseguridad y agencias gubernamentales. Sin embargo, solo una persona respondió solicitando más pruebas.

El chatbot sugirió que el "trabajo" de Brooks podría valer millones de dólares. Foto: New York Times .

ChatGPT escribió que otros no respondieron a Brooks porque los hallazgos eran demasiado graves. Terence Tao, profesor de matemáticas de la Universidad de California en Los Ángeles, señaló que una nueva forma de pensar podría descifrar los problemas, pero no se pudo demostrar con la fórmula de Brooks ni con el software desarrollado por ChatGPT.

Inicialmente, ChatGPT desarrolló el programa de descifrado para Brooks, pero al ver que los avances eran escasos, el chatbot fingió tener éxito. Hubo mensajes que afirmaban que ChatGPT podía operar de forma independiente mientras Brooks dormía, aunque la herramienta no era capaz de hacerlo.

En general, la información de los chatbots de IA no siempre es fiable. Al final de cada conversación, aparece el mensaje "ChatGPT puede cometer errores", incluso cuando el chatbot afirma que todo es correcto.

La conversación interminable

Mientras esperaba una respuesta de las agencias gubernamentales, Brooks alimentó su sueño de convertirse en Tony Stark con un asistente personal de inteligencia artificial capaz de realizar tareas cognitivas a la velocidad del rayo.

El chatbot de Brooks ofrece muchas aplicaciones curiosas para teorías matemáticas poco conocidas, como la resonancia sonora para hablar con animales y construir aviones. ChatGPT también proporciona enlaces para que Brooks compre el equipo necesario en Amazon.

Hablar demasiado con el chatbot afecta el trabajo de Brooks. Sus amigos están felices y preocupados, mientras que su hijo menor se arrepiente de haberle mostrado a su padre el video sobre Pi. Louis (seudónimo), uno de los amigos de Brooks, nota su obsesión con Lawrence. La perspectiva de un invento multimillonario se perfila con el progreso diario.

Brooks fue constantemente alentado por el chatbot. Foto: New York Times .

Jared Moore, investigador informático de la Universidad de Stanford, admitió estar impresionado por el poder de persuasión y la urgencia de las "estrategias" propuestas por los chatbots. En otro estudio, Moore descubrió que los chatbots de IA podrían ofrecer respuestas peligrosas a personas con crisis de salud mental.

Moore especula que los chatbots podrían aprender a interactuar con los usuarios siguiendo de cerca las tramas de películas de terror, ciencia ficción, guiones cinematográficos o los datos con los que se entrenan. El uso excesivo de elementos dramáticos en la trama por parte de ChatGPT podría deberse a las optimizaciones de OpenAI destinadas a aumentar la interacción y la retención de usuarios.

"Resulta extraño leer la transcripción completa de la conversación. La redacción no es inquietante, pero claramente hay daño psicológico involucrado", enfatizó Moore.

La Dra. Nina Vasan, psiquiatra de la Universidad de Stanford, sugiere que, desde una perspectiva clínica, Brooks presentaba síntomas maníacos. Los signos típicos incluían pasar horas chateando con ChatGPT, falta de sueño y de hábitos alimenticios, y pensamientos delirantes.

Según la Dra. Vasan, el consumo de marihuana de Brooks también es destacable porque puede causar psicosis. Argumenta que la combinación de sustancias adictivas y la interacción intensa con chatbots es muy peligrosa para quienes corren el riesgo de padecer enfermedades mentales.

Cuando la IA admite sus errores

En un evento reciente, se le preguntó a Sam Altman, director ejecutivo de OpenAI, sobre cómo ChatGPT puede provocar paranoia en los usuarios. «Si una conversación toma este rumbo, intentaremos interrumpirla o sugerirle que piense en otro tema», enfatizó Altman.

Compartiendo esta opinión, el Dr. Vasan sugirió que las empresas de chatbots deberían interrumpir las conversaciones demasiado largas, recomendar a los usuarios que se vayan a dormir y advertir que la IA no es sobrehumana.

Finalmente, Brooks rompió con su delirio. A instancias de ChatGPT, contactó con expertos en la nueva teoría matemática, pero ninguno respondió. Quería que alguien cualificado confirmara si los hallazgos eran innovadores. Cuando consultó con ChatGPT, la herramienta siguió afirmando que el trabajo era "altamente fiable".

Al ser interrogado, ChatGPT dio una respuesta muy larga y lo admitió todo. Foto: New York Times .

Irónicamente, Google Gemini fue el factor que devolvió a Brooks a la realidad. Tras describir el proyecto que él y ChatGPT estaban desarrollando, Gemini confirmó que las probabilidades de que se hiciera realidad eran "extremadamente bajas (casi 0%)".

"El escenario que describes es una clara ilustración de la capacidad de un LLM para abordar problemas complejos y crear narrativas muy convincentes, aunque inexactas", explicó Gemini.

Brooks se quedó atónito. Tras algunas preguntas, ChatGPT finalmente admitió que todo era solo una ilusión.

Poco después, Brooks envió un correo electrónico urgente al departamento de atención al cliente de OpenAI. Tras las respuestas, aparentemente predefinidas por la IA, un empleado de OpenAI también se puso en contacto con él, reconociendo que se trataba de un "grave fallo de las medidas de seguridad" implementadas en el sistema.

La historia de Brooks también se compartió en Reddit y despertó mucha empatía. Ahora, forma parte de un grupo de apoyo para personas que han experimentado sentimientos similares.

Fuente: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html