No permitamos que la IA amenace la supervivencia de la humanidad

Los "padrinos de la IA", ganadores del premio VinFuture 2024, creen que los científicos deben garantizar que los escenarios de IA no amenacen la supervivencia de la humanidad.

Hoy, 7 de diciembre, los ganadores del Premio VinFuture 2024 interactuaron con estudiantes y jóvenes científicos de la Universidad VinUni sobre investigación científica y las perspectivas futuras de sus campos de estudio. Allí, los ganadores del premio principal, científicos destacados cuyos trabajos pioneros han sentado las bases de la revolución actual de la IA, hablaron sobre los asombrosos avances de la IA.

El profesor Yann LeCun (centro) y el profesor Yoshua Bengio (portada izquierda) en la sesión de intercambio

"Nos sentimos como si hubiéramos saltado 10 años hacia el futuro".

El profesor Geoffrey Hinton, de la Universidad de Toronto (Canadá), no viajó a Vietnam para recibir el premio y participó en el intercambio de videos . Él, junto con los profesores Yann LeCun y Yoshua Bengio, recibieron el Premio Turing (considerado el Nobel en informática) en 2018, y fueron reconocidos por la prensa internacional como "padrinos de la IA". Ahora, los tres siguen siendo reconocidos por VinFuture 2024 en el premio principal, junto con otros dos científicos: el profesor Fei Fei Li (EE. UU.) y el Sr. Jensen Huang (CEO de NVIDIA).

Según el profesor Hinton, el reciente auge en el campo de la IA se debe a tres factores. En primer lugar, la investigación orientada al desarrollo de métodos más eficientes para el aprendizaje de redes neuronales, en la que él, el profesor Yoshua, el profesor Yann y muchos otros han estado trabajando. Además, está la rapidísima capacidad de procesamiento de las unidades de procesamiento gráfico (GPU) y la enorme cantidad de datos que podemos recopilar.

El profesor Geoffrey Hinton comparte vía video

Un aspecto destacado de este premio (VinFuture 2024) es el reconocimiento al trabajo pionero de Jensen Huang en la creación de placas GPU útiles para IA. La combinación de la placa GPU de Jensen Huang y el conjunto de datos del profesor Fei Fei Li desempeña un papel crucial en el desarrollo moderno de la IA. Es fantástico que se reconozcan los esfuerzos de ambos, junto con los de quienes trabajan con algoritmos de redes neuronales, afirmó el profesor Hinton.

Descubrimos que, al usar GPU para entrenar redes neuronales, estas eran 30 veces más rápidas. Fue un salto cualitativo. Era como si la velocidad de computación se hubiera adelantado 10 años a su tiempo. De repente, estábamos 10 años por delante del futuro en velocidad de computación. ¡Fue un cambio radical para la IA, fue increíble!, compartió el profesor Hinton.

Los científicos siguen trabajando para comprender mejor las conexiones en las redes neuronales. Esto les permitirá crear una inteligencia artificial más parecida a la humana, capaz incluso de explicar la intuición. Los enfoques lógicos tradicionales jamás podrán lograrlo.

"Estoy empezando a tener miedo de la IA"

El profesor Hinton observa que las grandes redes neuronales actuales poseen una intuición similar a la de los humanos. Desde el año pasado, empezó a preocuparse de que la IA solo tardaría entre 5 y 20 años en alcanzar la inteligencia humana. "Fue entonces cuando empecé a temerle a la IA. Detener su desarrollo no es una opción. Por lo tanto, la única opción es buscar maneras de garantizar su seguridad cuando se vuelva más inteligente que nosotros", compartió el profesor Hinton.

“Pero no creo que el fin del mundo sea inevitable”, afirma el profesor Hinton. “Sin embargo, no se pueden ignorar las posibilidades y debemos trabajar arduamente para prevenirlo. Esperemos que los estudiantes más talentosos opten por estudiar seguridad en IA, abordando una amplia gama de amenazas, desde amenazas a largo plazo como las adquisiciones de IA hasta amenazas a corto plazo como la ciberdelincuencia”.

Profesor Yoshua Bengio y Profesor Yann LeCun

El profesor Yann Lecun afirmó que también le preocupa el riesgo de que la IA domine a los humanos cuando sea tan inteligente como ellos. Sin embargo, la respuesta actual aún no lo es. "Podemos perder jugando al ajedrez con un juguete pequeño que vale 30 euros. ¿Es peligroso? La respuesta es no. La IA solo se vuelve peligrosa cuando creamos motivación (para controlar a los humanos) para ella. Pero, por ahora, la IA solo tiene conocimiento, no motivación", afirmó el profesor Yann.

Según el profesor Yann, crear una IA que sirva activamente a la humanidad es simplemente una cuestión técnica. La idea de que la IA dominará a la humanidad solo por su inteligencia es errónea, ya que, en realidad, han existido muchas personas inteligentes a lo largo de la historia, ¡pero no han dominado el mundo ! La IA, en última instancia, seguirá siendo una herramienta; el problema reside en la humanidad, no en la IA.

Según el profesor Yoshua Bengio, no podemos ser subjetivos; un pequeño problema puede afectar la supervivencia de la humanidad. Los humanos pueden motivar a las máquinas. Por ejemplo, si alguien quiere convertir una máquina en un humano, haciendo que parezca que necesita "sobrevivir", queremos apagarla, pero se niega. "Por supuesto, debemos asegurarnos de que esa situación no se produzca", dijo el profesor Bengio.

Fuente: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm