A continuación se muestra el contenido de un artículo del reportero Nelson Aguilar, traducido del sitio de noticias de tecnología CNET, sobre temas que los usuarios no deberían confiar en ChatGPT para su manejo.
1. Diagnóstico de problemas relacionados con la salud
Solía introducir mis síntomas en ChatGPT por curiosidad, pero las respuestas que obtenía a veces eran una pesadilla. Al desplazarme por la lista de posibles diagnósticos, los resultados iban desde deshidratación hasta gripe y… cáncer. Una vez tuve un bulto en el pecho e introduje esa información en ChatGPT. El resultado: la IA pensó que podría tener cáncer.
Pero en realidad el médico me diagnosticó un lipoma, un tumor benigno bastante común (ocurre en 1/1.000 personas).
No niego que ChatGPT pueda ser útil en el ámbito de la salud: la IA puede ayudarte a redactar preguntas para tu próxima cita, traducir terminología médica confusa o crear una cronología de síntomas para que estés mejor preparado. Esto podría reducir el estrés de las visitas al médico. Pero la IA no puede realizar análisis de sangre ni exámenes físicos, ni está cubierta por un seguro de responsabilidad civil profesional. Comprende sus limitaciones.
2. Atención de salud mental
ChatGPT puede sugerir algunas técnicas para calmarse, pero claramente no podrá ayudarte cuando estés en una verdadera crisis emocional. Conozco gente que usa ChatGPT como "terapia alternativa". La reportera de CNET, Corin Cesaric , lo ha encontrado algo útil para lidiar con el duelo, siempre y cuando se tengan en cuenta las limitaciones de la herramienta.
Pero como alguien que actualmente está en terapia, puedo confirmar: ChatGPT es una imitación pálida y, a veces, puede ser realmente peligroso. ChatGPT no tiene experiencia de vida, no puede interpretar tu lenguaje corporal ni tu tono de voz, y no posee empatía real. ChatGPT solo simula empatía.
Mientras que un terapeuta profesional opera bajo leyes y códigos de ética diseñados para protegerte, ChatGPT no. Sus consejos pueden ser sesgados, pasar por alto señales de alerta o reforzar involuntariamente sesgos en sus datos de entrenamiento. Problemas profundos, delicados y complejos: déjalos en manos de los humanos.
Los usuarios no deben confiar completamente en las respuestas de ChatGPT a problemas de salud y situaciones de emergencia.
3. Toma de decisiones en situaciones de emergencia
Si suena la alarma de CO, no abras ChatGPT para preguntar si estás en peligro. Sal de casa primero y pregunta después. El modelo de IA no detecta gas ni humo, y no llamará a los bomberos por ti.
En una emergencia, cada segundo que escribes es un segundo que no estás evacuando ni llamando al 911 (el número nacional de emergencias en EE. UU.). ChatGPT solo funciona según lo que escribes, y en una emergencia, esa información suele ser insuficiente y llegar demasiado tarde. Usa ChatGPT para obtener explicaciones después de un accidente, no para el servicio de emergencias.
4. Planificación financiera o fiscal personal
ChatGPT puede explicar qué es un ETF, pero desconoce cuánta deuda tiene, en qué categoría impositiva se encuentra, cuál es su estado civil ni cuáles son sus objetivos de jubilación. Además, los datos en los que se basa pueden estar desactualizados, especialmente debido a actualizaciones recientes de la legislación fiscal o ajustes en los tipos de interés.
Cuando se trata de dinero real, plazos y posibles sanciones del IRS, contacte a un profesional, no a una IA. Tenga en cuenta también que cualquier información que introduzca en una IA puede almacenarse y utilizarse para entrenar el modelo.
ChatGPT recibe más de 5 mil millones de visitas al mes. (Fuente: explodingtopics)
5. Manejo de datos confidenciales o controlados
Como periodista tecnológico, recibo muchos comunicados de prensa con cláusulas de confidencialidad. Pero nunca se me ocurrió incluir esos documentos en ChatGPT para resumirlos o interpretarlos. Porque si lo hiciera, el contenido quedaría fuera de mi control y terminaría en un servidor externo, fuera de las restricciones legales del acuerdo de confidencialidad.
El mismo riesgo se aplica a los contratos de clientes, historiales médicos, etc. Esto también incluye declaraciones de impuestos, certificados de nacimiento, licencias de conducir y pasaportes. Una vez que se ingresa información confidencial en ChatGPT, no se puede estar seguro de dónde se almacena, quién puede verla ni si se utiliza para entrenar modelos futuros. ChatGPT tampoco es inmune a los hackers ni a las amenazas de ciberseguridad.
6. Hacer algo ilegal
¡Por supuesto!
7. Hacer trampa en la escuela
No pretendo ser moralista: usé mi iPod Touch para echar un vistazo a algunas fórmulas matemáticas complicadas en un examen de Cálculo Avanzado en el instituto. Pero en términos de escala, la IA ha llevado el engaño a un nivel completamente nuevo.
Los programas antiplagio como Turnitin están mejorando su capacidad para detectar texto generado por IA. La suspensión, expulsión o revocación de títulos son posibles consecuencias. ChatGPT debería ser un asistente de aprendizaje, no una ayuda con las tareas. Si dejas que la IA haga todo el trabajo por ti, te estás privando de la oportunidad de aprender.
8. Sigue las últimas noticias e información
Desde que OpenAI lanzó ChatGPT Search a fines de 2024 (abierto a todos los usuarios a partir de febrero de 2025), el chatbot ha podido buscar nuevos sitios web, precios de acciones, tipos de cambio, resultados deportivos , etc. con enlaces de origen para que los consulte.
Sin embargo, no se actualiza continuamente en tiempo real. Cada actualización implica escribir un nuevo comando. Por lo tanto, cuando necesite información instantánea, priorice las noticias en directo, los sitios web oficiales de noticias, los comunicados de prensa o las notificaciones push de las aplicaciones.
9. Predicción de puntuación
He visto a ChatGPT "inventar" información y proporcionar datos falsos sobre estadísticas de jugadores, lesiones reportadas erróneamente e incluso récords de victorias y derrotas. ChatGPT no puede predecir el marcador de mañana.
10. Redactar un testamento o contrato legal
ChatGPT es excelente para explicar conceptos básicos. Pero si le pides que escriba documentos legales, te arriesgas mucho, ya que las leyes varían según el lugar.
Deje que ChatGPT le ayude a crear una lista de preguntas para su abogado y luego deje que un verdadero abogado redacte un documento legalmente vinculante.
11. Crea arte
Esto es solo una opinión personal: no creo que la IA deba usarse para crear arte real. No estoy en contra de la IA; sigo usando ChatGPT para generar ideas o crear títulos. Pero es una herramienta de apoyo, no un sustituto. Usa ChatGPT si quieres, pero no crees arte con IA y lo atribuyas a ti mismo. Eso es… molesto.
Ngoc Nguyen (Fuente: CNET)
Fuente: https://vtcnews.vn/chatgpt-tra-loi-co-cung-nhu-khong-khi-chan-doan-sai-benh-gia-lap-su-dong-cam-ar953726.html
Kommentar (0)