Advertencia: La IA podría desarrollar una "voluntad de supervivencia" más allá del control humano

El destacado científico informático Yoshua Bengio advierte que si la IA se sale de control, "la humanidad podría desaparecer en 10 años".

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 1. — Los científicos se preocupan por el riesgo de perder el control de la IA - Ilustración: ChatGPT

El 7 de febrero, un destacado científico informático advirtió sobre la posibilidad de que los humanos "pierdan el control" sobre los sistemas de inteligencia artificial (IA) en el futuro cuando estos productos artificiales desarrollen una "voluntad de sobrevivir".

En su intervención en la Cumbre de Acción sobre IA que se celebra en París, el científico informático Yoshua Bengio pidió una regulación internacional más estricta y una investigación más amplia sobre la seguridad de la IA, que actualmente representa sólo una pequeña fracción de las principales inversiones que se realizan en ese campo.

La aparición del modelo de IA de alto rendimiento y bajo coste, DeepSeek, el mes pasado ha acelerado la carrera hacia la seguridad, según el ganador del prestigioso Premio Turing 2018 en informática. Yoshua Bengio advirtió que si la IA se descontrola, «la humanidad podría desaparecer en 10 años».

También exigió liderazgo gubernamental en la gestión de la IA. Este llamado surge en un momento en que Estados Unidos, el país líder mundial en IA, ha tomado numerosas medidas para "liberar" el desarrollo de esta tecnología bajo el nuevo presidente Donald Trump.

Actualmente, el Informe Internacional sobre Seguridad de la IA presentado por el Sr. Yoshua Bengio en la conferencia también señala riesgos bien conocidos como el uso de IA para crear contenido falso o engañoso en plataformas en línea, mientras que constantemente surgen riesgos adicionales, como ataques biológicos o ciberataques.

Con contribuciones de alrededor de 100 expertos de 30 países, las Naciones Unidas, la Unión Europea y la Organización para la Cooperación y el Desarrollo Económicos (OCDE), este es el primer informe sobre seguridad internacional de la IA, realizado desde la cumbre de seguridad de la IA en el Reino Unido en noviembre de 2023.

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 2.

La UE se enfrenta al difícil problema de la gestión de la IA

El 4 de febrero, la Comisión Europea publicó un documento que guía la implementación de las disposiciones de la Ley de Inteligencia Artificial (IA), vigente a partir del 2 de febrero, y recibió reacciones mixtas.

[anuncio_2]
Fuente: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm