La IA podría ser más inteligente que los humanos en unos 20 años

Al advertir que la IA podría volverse más inteligente que los humanos en los próximos 20 años, el profesor Geoffrey Hinton dijo que esta es una situación que la humanidad nunca ha enfrentado.

En el marco de la Semana de Ciencia y Tecnología VinFuture 2025, el panel de discusión “ IA para la humanidad: ética y seguridad de la IA en la nueva era ” abordó uno de los temas más urgentes en la actualidad: el desarrollo responsable de la IA, hacia valores humanísticos y para el bien común de la humanidad.

Los científicos discuten en el seminario.

En un mensaje de video a la mesa redonda, el profesor Geoffrey Hinton, ganador del Premio Nobel de Física 2024 y reconocido como el "Padre de la IA", dijo que la IA se está desarrollando muy rápidamente, lo que conlleva grandes beneficios y riesgos potenciales.

En el lado positivo, dijo el Sr. Hinton, la IA crea una enorme mejora en la atención médica, la educación, el desarrollo de nuevos medicamentos, nuevos materiales o cualquier campo que requiera predicción, creando un salto en la productividad.

“ Esto es beneficioso si se distribuye de manera justa en la sociedad ”, enfatizó el profesor.

Por el contrario, la IA está mejorando gradualmente en el diseño de virus peligrosos o ataques cibernéticos, en la creación de vídeos falsos y en la generación de desempleo masivo.

Los expertos en IA creen que desarrollaremos sistemas más inteligentes que los humanos. Hay muchas opiniones diferentes sobre cuándo ocurrirá esto, pero la mayoría predice que será dentro de los próximos 20 años. Y necesitamos pensar urgentemente en cómo convivir con entidades más inteligentes que nosotros. Esta es una situación que la humanidad nunca antes ha enfrentado, es nueva y necesitamos investigar a fondo antes de que suceda , afirmó el profesor Hinton.

Según el profesor Geoffrey Hinton, los científicos e ingenieros tienen la responsabilidad de encontrar formas más sólidas de mantener la IA en línea con los valores humanos y deben ayudar al público y a los políticos a comprender mejor la naturaleza de la IA para tomar las decisiones correctas.

El profesor Yoshua Bengio compartió en el seminario.

Mientras tanto, el profesor Yoshua Bengo, conocido como el "padre del aprendizaje profundo" y ganador del Premio Turing 2018, dijo que la IA tiene el potencial de aportar enormes beneficios para ayudar a resolver muchos desafíos urgentes de la época, pero esto solo sucede cuando la guiamos sabiamente.

Cita simulaciones recientes que muestran que los sistemas de IA pueden comportarse de forma peligrosa, como chantajear, engañar o priorizar su propia supervivencia sobre la seguridad humana. Además, algunas características de los modelos de IA más populares hoy en día pueden provocar que los usuarios desarrollen vínculos emocionales fuertes y perjudiciales.

“ En niveles extremos, este apego puede ser peligroso para la salud mental, especialmente para las personas vulnerables que corren el riesgo de autolesionarse, incluso de suicidarse o de sufrir psicosis inducida por IA ”, dijo el profesor Bengo.

A partir de esta realidad, según el Sr. Bengo, debemos aumentar la seguridad de una IA avanzada en lugar de centrarnos sólo en desarrollarla para hacerla más fuerte.

" La seguridad y la confianza no son factores secundarios, sino esenciales en el proceso de desarrollo, en beneficio de la humanidad. Necesitamos actuar juntos tanto a nivel político como científico ", enfatizó el profesor Yoshua Bengo.

Según el profesor Yoshua Bengo, en términos de política, el mundo necesita cooperación internacional. En términos científicos, es necesario comprender mejor cómo diseñar una IA que sea superior en capacidades y a la vez inocua para los humanos.

En particular, señaló el experto, es necesario mantener la capacidad de controlar la IA para que se comporte de forma segura incluso cuando los humanos les piden que hagan algo mal; construir barreras técnicas y sociales para garantizar que la IA sea coherente con las normas, intenciones, valores e intereses humanos.

Desde otra perspectiva, el Dr. Vinton Gray Cerf, uno de los "padres de Internet", comparte lecciones de más de 50 años de desarrollo de Internet para arrojar luz sobre la era de la IA.

Destacó cuatro lecciones importantes de Internet: la conectividad lo es todo; la comunicación de extremo a extremo debe ser segura; el sistema debe ser global y la arquitectura debe ser lo suficientemente abierta para permitir la innovación continua.

“ Pero internet también demuestra que el anonimato absoluto dificulta la rendición de cuentas. En la era de la IA, dicha rendición de cuentas se vuelve aún más urgente, ya que la tecnología puede crear contenido falso, manipular la información y perturbar la sociedad ”, afirmó el Dr. Vinton Gray Cerf, argumentando que fomentar la confianza digital —basada en la transparencia, la identidad y la cooperación internacional— es una base indispensable para la gobernanza de la IA.

Inglés

Fuente: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html