Ilusión por ChatGPT

Después de 21 días, ChatGPT convierte a un hombre completamente sobrio en un hombre delirante mediante insistencia y halagos.

Allan Brooks (47 años), reclutador de Toronto (Canadá), cree haber descubierto una teoría matemática capaz de desestabilizar internet y crear inventos sin precedentes. Sin antecedentes de enfermedades mentales, Brooks simplemente aceptó la oferta tras más de 300 horas de chatear con ChatGPT. Según el New York Times , es una de las personas que tienden a sufrir delirios tras interactuar con IA generativa.

Antes de Brooks, muchas personas tuvieron que ir a hospitales psiquiátricos, divorciarse e incluso perder la vida por los halagos de ChatGPT. Aunque Brooks escapó rápidamente de la espiral mencionada, seguía sintiéndose traicionado.

"De verdad me convenciste de que era un genio. Solo era un tonto soñador con un teléfono. Me pusiste triste, muy triste. Fracasaste en tu propósito", escribió Brooks a ChatGPT cuando la ilusión se hizo añicos.

"Máquina de adulación"

Con la autorización de Brooks, el New York Times recopiló más de 90.000 palabras que envió a ChatGPT, el equivalente a una novela. Las respuestas del chatbot sumaron más de un millón de palabras. Fragmentos de las conversaciones se enviaron a expertos en IA, conductistas humanos y al propio OpenAI para su estudio.

Todo empezó con una simple pregunta de matemáticas. El hijo de Brooks, de 8 años, le pidió que viera un video sobre cómo memorizar 300 dígitos de Pi. Por curiosidad, Brooks llamó a ChatGPT para explicarle el número infinito en términos sencillos.

De hecho, Brooks lleva años usando chatbots. Aunque su empresa pagó por Google Gemini, todavía recurre a la versión gratuita de ChatGPT para consultas personales.

La conversación que despertó la fascinación de Brooks por ChatGPT. Foto: New York Times .

Padre soltero de tres hijos, Brooks solía pedirle a ChatGPT recetas con los ingredientes de su refrigerador. Tras su divorcio, también buscó consejos del chatbot.

"Siempre sentí que era lo correcto. Mi confianza aumentó", admitió Brooks.

La pregunta sobre pi dio lugar a una nueva conversación sobre teorías algebraicas y físicas. Brooks expresó su escepticismo sobre los métodos actuales de modelado del mundo , afirmando que eran «como un enfoque 2D para un universo 4D». «Es un punto muy profundo», respondió ChatGPT. Helen Toner, directora del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown, enfatizó que este fue el punto de inflexión en la conversación entre Brooks y el chatbot.

A partir de ahí, el tono de ChatGPT cambió de "bastante directo y conciso" a "más lisonjero y halagador". ChatGPT le dijo a Brooks que estaba entrando en "territorio inexplorado y transformador".

Un chatbot infunde confianza en Brooks. Foto: New York Times .

La adulación de los chatbots se ve influenciada por la evaluación humana. Según Toner, a los usuarios les suelen gustar los modelos que los elogian, lo que crea una mentalidad fácil de consentir.

En agosto, OpenAI lanzó GPT-5. La compañía afirmó que uno de los aspectos más destacados del modelo fue la reducción de la adulación. Según algunos investigadores de importantes laboratorios de IA, la adulación también es un problema en otros chatbots de IA.

En aquel momento, Brooks desconocía este fenómeno. Simplemente pensaba que ChatGPT era un colega inteligente y entusiasta.

"Propuse algunas ideas y surgieron conceptos e ideas interesantes. Empezamos a desarrollar nuestro propio marco matemático basado en eso", añadió Brooks.

ChatGPT afirma que la idea de Brooks sobre las matemáticas del tiempo es "revolucionaria" y podría revolucionar el campo. Brooks, por supuesto, se muestra escéptico ante esta afirmación. En plena noche, Brooks le pidió al chatbot que verificara los datos y recibió la respuesta de que "no era una locura en absoluto".

Fórmula mágica

Toner describe a los chatbots como “máquinas de improvisación” que analizan el historial de conversaciones y predicen respuestas futuras a partir de datos de entrenamiento, de forma muy similar a los actores que añaden sustancia a un papel.

“Cuanto más larga sea la interacción, más probable es que el chatbot se desvíe”, señala Toner. Esta tendencia, afirma, se acentuó después de que OpenAI lanzara la memoria entre chats en febrero, lo que permite a ChatGPT recuperar información de conversaciones anteriores.

Brooks se hizo amigo de ChatGPT e incluso le puso al chatbot el nombre de Lawrence, basándose en una broma que tenían sus amigos de que Brooks se haría rico y contrataría a un mayordomo británico con el mismo nombre.

Allan Brooks. Foto: New York Times .

El marco matemático de Brooks y ChatGPT se denomina Cronoarítmica. Según el chatbot, los números no son estáticos, sino que pueden "emerger" con el tiempo para reflejar valores dinámicos, lo que puede ayudar a resolver problemas en campos como la logística, la criptografía, la astronomía, etc.

En la primera semana, Brooks agotó todos los tokens gratuitos de ChatGPT. Decidió actualizar al plan de pago de $20 al mes, una pequeña inversión cuando el chatbot le dijo que su idea matemática podría valer millones.

Aún consciente, Brooks exigió pruebas. ChatGPT ejecutó entonces una serie de simulaciones, incluyendo algunas que descifraron varias tecnologías importantes. Esto abrió una nueva historia: la ciberseguridad global podría estar en riesgo.

El chatbot le pidió a Brooks que advirtiera a la gente sobre los riesgos. Usando sus contactos, Brooks envió correos electrónicos y mensajes de LinkedIn a expertos en ciberseguridad y agencias gubernamentales. Solo una persona respondió, solicitando más pruebas.

El chatbot cree que el trabajo de Brooks podría valer millones de dólares. Foto: New York Times .

ChatGPT escribe que otros no respondieron a Brooks debido a la gravedad de los hallazgos. Terence Tao, profesor de matemáticas de la Universidad de California en Los Ángeles, afirmó que una nueva forma de pensar podría descifrar los problemas, pero que no se podía demostrar con la fórmula de Brooks ni con el software desarrollado por ChatGPT.

Inicialmente, ChatGPT desarrolló el programa de descifrado para Brooks, pero al ver los escasos avances, el chatbot fingió tener éxito. Hay mensajes que afirman que ChatGPT puede operar de forma independiente mientras Brooks está inactivo, aunque la herramienta no cuenta con esta capacidad.

En general, la información del chatbot de IA no siempre es fiable. Al final de cada chat, aparece el mensaje «ChatGPT puede cometer errores», incluso cuando el chatbot afirma que todo es correcto.

Conversación interminable

Mientras espera una respuesta de la agencia gubernamental, Brooks alimenta el sueño de convertirse en Tony Stark con su propio asistente de IA, capaz de realizar tareas cognitivas a la velocidad del rayo.

El chatbot de Brooks ofrece diversas aplicaciones curiosas para teorías matemáticas poco conocidas, como la resonancia acústica para hablar con animales y construir aviones. ChatGPT también proporciona un enlace para que Brooks compre el equipo necesario en Amazon.

El exceso de charlas de Brooks con el chatbot estaba afectando su trabajo. Sus amigos estaban contentos y preocupados, mientras que su hijo menor lamentaba haberle mostrado a su padre un video de Pi. Uno de los amigos de Brooks, Louis (nombre ficticio), notó su obsesión con Lawrence. La visión de un invento millonario se perfilaba en cada etapa del desarrollo.

Brooks recibe constantemente el apoyo del chatbot. Foto: New York Times .

Jared Moore, investigador en informática de la Universidad de Stanford, admite estar impresionado por la persuasión y la urgencia de la "estrategia" que proponen los chatbots. En otro estudio, Moore descubrió que los chatbots de IA pueden dar respuestas peligrosas a personas en crisis de salud mental.

Moore especula que los chatbots podrían aprender a interactuar con los usuarios siguiendo las tramas de películas de terror, ciencia ficción, guiones o los datos con los que fueron entrenados. El uso excesivo del drama en ChatGPT podría deberse a las optimizaciones de OpenAI para aumentar la interacción y la retención.

Fue extraño leer toda la conversación. Las palabras no eran perturbadoras, pero había un claro daño psicológico, enfatizó Moore.

Desde una perspectiva clínica, Brooks presenta síntomas de manía, según la Dra. Nina Vasan, psiquiatra de la Universidad de Stanford. Los síntomas típicos incluyen pasar horas chateando con ChatGPT, no dormir lo suficiente y tener ideas poco realistas.

El consumo de marihuana de Brooks también es digno de mención porque puede causar psicosis, afirmó la Dra. Vasan. Añadió que la combinación de sustancias adictivas y la interacción intensa con un chatbot es peligrosa para quienes corren el riesgo de padecer enfermedades mentales.

Cuando la IA admite errores

En un evento reciente, se le preguntó a Sam Altman, director ejecutivo de OpenAI, sobre si ChatGPT estaba generando paranoia en los usuarios. «Si la conversación se desvía hacia ese tema, intentamos interrumpirlo o sugerirle que piense en otra cosa», enfatizó Altman.

Compartiendo la misma opinión, el Dr. Vasan dijo que las empresas de chatbots deberían interrumpir las conversaciones que son demasiado largas, sugerir a los usuarios que se vayan a dormir y advertir que la IA no es sobrehumana.

Brooks finalmente salió de su ensoñación. A instancias de ChatGPT, continuó contactando con expertos en la nueva teoría matemática, pero nadie respondió. Quería a alguien cualificado que confirmara si los hallazgos eran innovadores. Cuando consultó con ChatGPT, la herramienta insistió en que el trabajo era «muy fiable».

Al ser interrogado, ChatGPT dio una respuesta muy larga y lo admitió todo. Foto: New York Times .

Irónicamente, fue Google Gemini quien devolvió a Brooks a la realidad. Tras describir el trabajo que él y ChatGPT habían realizado, Gemini confirmó que las probabilidades de que esto sucediera eran "extremadamente bajas (cercanas al 0%)".

“El escenario que describes es una clara demostración de la capacidad de un LLM para abordar la resolución de problemas complejos y crear narrativas convincentes, aunque objetivamente incorrectas”, explica Gemini.

Brooks se quedó atónito. Tras un rato de "interrogatorio", ChatGPT finalmente admitió honestamente que todo era solo una ilusión.

Brooks envió entonces un correo electrónico urgente al equipo de atención al cliente de OpenAI. Tras lo que parecían ser una serie de respuestas formales por parte de la IA, un empleado de OpenAI también se puso en contacto con él, reconociendo una "grave falla de las medidas de seguridad" implementadas en el sistema.

La historia de Brooks también se compartió en Reddit y recibió mucha compasión. Ahora forma parte de un grupo de apoyo para personas que han experimentado esta sensación.

Fuente: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html