“El Padrino de la IA” revela la única forma de que la humanidad sobreviva contra la superIA.

(Dan Tri) - Geoffrey Hinton, conocido como el "padrino de la IA", ha expresado su preocupación de que la tecnología que ayudó a construir pueda acabar con la humanidad en el futuro.

Geoffrey Hinton, informático que contribuyó a sentar las bases del desarrollo de la inteligencia artificial (IA), acaba de advertir que existe la posibilidad de que entre el 10 % y el 20 % de la IA acabe con la humanidad en el futuro. Hinton también duda de la capacidad de las empresas tecnológicas para controlar la IA.

"Eso no va a funcionar (en cuanto a la capacidad de las empresas tecnológicas para controlar la IA). Serán mucho más inteligentes que nosotros. Tendrán muchas maneras de eludir el control", dijo Geoffrey Hinton.

Geoffrey Hinton es conocido como el "Padrino de la IA", quien sentó las bases para el desarrollo de la inteligencia artificial moderna (Foto: Pinterest).

Hinton advierte que, en el futuro, los sistemas de IA podrían controlar a los humanos con la misma facilidad con la que un adulto usa dulces para atraer a un niño de 3 años. Hinton da ejemplos de sistemas de IA que ya están dispuestos a engañar, estafar y desinformar para lograr sus objetivos.

Según Hinton, en lugar de obligar a la IA a obedecer a los humanos, cree que la única solución para que la humanidad sobreviva contra la IA es integrar el “instinto maternal” en los modelos de IA, para que realmente se preocupen por los humanos, incluso cuando la IA se haya vuelto más poderosa e inteligente que todo el intelecto humano.

«Si se vuelven más inteligentes que los humanos, los sistemas de IA desarrollarán rápidamente dos objetivos: uno es sobrevivir y el otro es encontrar maneras de obtener más control. Cualquier tipo de IA intentará sobrevivir», comentó Geoffrey Hinton.

Por eso es importante integrar y cultivar los "instintos maternales" en los modelos de IA, afirmó. Sin embargo, Hinton afirmó que aún no tiene claro cómo hacerlo técnicamente, pero enfatizó que los informáticos necesitan encontrar soluciones para lograrlo.

Emmett Shear, quien se desempeñó como director ejecutivo interino de OpenAI, dijo que no le sorprendería si en el futuro la IA se volviera más inteligente, amenazara a los humanos y eludiera las órdenes de cierre.

“La IA actual aún es relativamente débil, pero se ha vuelto mucho más inteligente y poderosa. No se detendrá”, afirmó Emmett Shear.

La IA está evolucionando más rápido de lo esperado

Muchos expertos en tecnología creen que la IA se está desarrollando más rápido de lo que la humanidad esperaba y que la superinteligencia artificial, también conocida como inteligencia artificial general (AGI), un sistema de IA que puede realizar múltiples tareas simultáneamente, aparecerá en los próximos años.

Geoffrey Hinton dijo que una vez pensó que la humanidad tardaría entre 30 y 50 años en construir una IA general, pero ahora ve que ese momento llegará antes.

“Una estimación razonable es que la IAG aparecerá dentro de los próximos cinco a veinte años”, comentó Hinton.

Aunque Hinton está preocupado de que todavía se cometan errores en el desarrollo que podrían hacer que la IA se salga de control, espera que la tecnología abra el camino para avances en la medicina y mejore la calidad de vida humana.

“Encontraremos nuevos fármacos revolucionarios y tendremos tratamientos contra el cáncer mucho mejores que los actuales gracias a la IA. Por ejemplo, la IA ayudará a los médicos a analizar y vincular enormes cantidades de datos de tomografías computarizadas y resonancias magnéticas”, comentó Geoffrey Hinton, pero no cree que la IA no pueda ayudar a los humanos a alcanzar la inmortalidad.

Cuando se le preguntó qué habría hecho en el pasado si hubiera sabido que la IA se desarrollaría tan rápidamente como lo hace hoy, Hinton dijo que lamenta haberse centrado solo en hacer que la IA funcione sin prestar atención a otras cuestiones.

"Me hubiera gustado pensar en las cuestiones de seguridad", dijo Hinton.

El profesor Geoffrey Everest Hinton nació el 6 de diciembre de 1947 en Londres, Inglaterra. Es informático, psicólogo cognitivo y conocido como el "Padrino de la IA" por sus contribuciones pioneras en los campos de la inteligencia artificial (IA) y el aprendizaje profundo.

En 2024, el profesor Hinton ganó el Premio Nobel de Física por sus descubrimientos fundamentales en el aprendizaje automático con redes neuronales artificiales.

También en 2024, el profesor Geoffrey Hinton, junto con el profesor Yoshua Bengio, el profesor Yann LeCun, el profesor Fei-Fei Li y el director ejecutivo de la empresa de chips Nvidia, Jensen Huang, fueron honrados y recibieron el premio principal en la ceremonia de premios VinFuture 2024, por sus grandes contribuciones en los campos del aprendizaje profundo y la inteligencia artificial.

Geoffrey Hinton, junto con Yoshua Bengio y Yann LeCun, son considerados los “padrinos de la IA” por sus investigaciones que sentaron las bases para muchos avances importantes en el desarrollo de la inteligencia artificial moderna.

Fuente: https://dantri.com.vn/cong-nghe/bo-gia-ai-tiet-lo-cach-duy-nhat-de-nhan-loai-ton-tai-truoc-sieu-ai-20250819160130130.htm