La nueva inteligencia artificial podría utilizarse para crear armas biológicas.

El teléfono muestra la interfaz para aprender sobre GPT-01 de OpenAI - Foto: FINANCIAL TIMES

Según el Financial Times del 13 de septiembre, OpenAI admitió que su modelo GPT-01, lanzado el 12 de septiembre, aumenta "significativamente" el riesgo de que la inteligencia artificial (IA) sea utilizada para crear armas biológicas.

La documentación de OpenAI que explica el funcionamiento de GPT-01 confirma que el nuevo modelo tiene un "nivel de riesgo medio" en lo que respecta a cuestiones relacionadas con armas químicas, biológicas, radiológicas y nucleares. Este es el nivel de riesgo más alto que OpenAI ha asignado jamás a sus modelos de IA.

Según OpenAI, esto significa que GPT-01 podría "mejorar significativamente" la capacidad de los expertos para fabricar armas biológicas con fines malintencionados.

Mira Murati, directora de tecnología (CTO) de OpenAI, afirmó que, si bien GPT-o1 aún se encuentra en fase de pruebas, las capacidades avanzadas de este modelo exigen que la empresa sea extremadamente "cautelosa" con respecto a su plan de desarrollo para su lanzamiento al público.

La Sra. Murati también afirmó que el modelo había sido probado exhaustivamente por un equipo multidisciplinario de expertos. Estas personas fueron contratadas por OpenAI para examinar las limitaciones del modelo desarrollado por la empresa.

El proceso de pruebas demostró que el modelo GPT-o1 cumplía con los criterios generales de seguridad mucho mejor que sus predecesores, según compartió Murati.

Además, los representantes de OpenAI aseguraron que la versión de prueba de GPT-o1 es "segura para su implementación" y no puede generar riesgos más complejos que los de las tecnologías ya desarrolladas.

A pesar de estas garantías, una gran parte de la comunidad científica y de los entusiastas de la IA siguen siendo en gran medida pesimistas sobre el futuro de esta tecnología.

Crece la preocupación por el rápido desarrollo de la IA, que supera la velocidad a la que se elaboran y aprueban las regulaciones que la rigen.

El profesor Yoshua Bengio, especialista en informática de la Universidad de Montreal y uno de los científicos de IA más destacados del mundo , afirmó que si OpenAI actualmente supone un "riesgo medio" de armas químicas y biológicas, entonces "esto solo refuerza la importancia y la urgencia" de las regulaciones, como el controvertido proyecto de ley en California, para regular este campo.

Este científico hizo hincapié en que estas instituciones son particularmente necesarias en el contexto de la IA, que se acerca cada vez más al nivel de inteligencia artificial universal (IAU), que es la capacidad de razonar a la par con los humanos.

«Cuanto más se acercan los modelos pioneros de IA a la IAG, mayores son los riesgos si no se toman las precauciones adecuadas. La mejora en las capacidades de razonamiento de la IA y su posible uso para el fraude son extremadamente peligrosos», evaluó Bengio.

Fuente: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm