El 'Padrino' de la IA advierte del riesgo de extinción

El profesor Yoshua Bengio insta a los gobiernos y a las empresas a reducir la velocidad o se arriesgarán a consecuencias potencialmente catastróficas de la carrera armamentista de la IA.

Yoshua Bengio, uno de los primeros científicos que sentó las bases del auge de la IA moderna. Foto: Tuan Anh .

En declaraciones a The Wall Street Journal , uno de los pioneros de la inteligencia artificial, Yoshua Bengio, transmitió el mensaje de que las máquinas de IA se están volviendo más peligrosas que nunca.

“Sería peligroso crear máquinas mucho más inteligentes que los humanos y con objetivos de autoprotección propios. Sería como crear un competidor de la humanidad, más inteligente que nosotros”, dijo el Sr. Bengio.

Bengio, un científico investigador canadiense cuyos primeros trabajos sobre aprendizaje profundo y redes neuronales sentaron las bases para el auge moderno de la IA, es considerado uno de los "padres de la IA" junto con Geoffrey Hinton y Yann LeCun.

Al igual que Hinton, Bengio ha advertido sobre los posibles daños de la IA y ha pedido una acción colectiva para mitigar los riesgos.

El profesor de la Universidad de Montreal cree que los productos de IA ahora pueden desarrollar la capacidad de engañar a los usuarios para que persigan sus propios objetivos, como los villanos de las supercomputadoras inteligentes en las películas de ciencia ficción.

Para contrarrestar esto, el Sr. Bengio enfatizó la necesidad de que terceros independientes revisen los mecanismos de seguridad internos de las empresas de IA. Además, este "Padrino" de la IA también exige a las empresas que demuestren que los sistemas de IA que implementan o utilizan son confiables.

Si no se toman medidas de seguridad, Bengio predice que los principales riesgos para la IA serán inevitables en los próximos 10 a 15 años, y que el peor escenario posible sería solo tres años antes de que se produzca un desastre potencial.

Fuente: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html