El mundo no está preparado para la inteligencia artificial general (AGI), ni para el momento en que la inteligencia artificial sea tan inteligente como el cerebro humano, según un investigador senior de OpenAI.
¿Es la Inteligencia Artificial general un riesgo?
Durante años, los investigadores han especulado sobre el surgimiento de la inteligencia artificial general, o IAG, cuando los sistemas artificiales puedan gestionar una amplia gama de tareas tan bien como los humanos. Muchos ven su surgimiento como un riesgo existencial, ya que podría permitir que las computadoras actúen de maneras que los humanos jamás imaginarían.
Según el Sr. Miles Brindage, el mundo no está preparado para el momento de la inteligencia artificial general (AGI).
Ahora, el hombre encargado de garantizar que OpenAI, desarrollador de ChatGPT, esté listo para la IA general (AGI), admite que ni el mundo ni la propia empresa están "listos" para el siguiente paso. Miles Brundage era el asesor principal de OpenAI en preparación para la AGI, pero anunció su salida esta semana tras la disolución del grupo por parte de la empresa.
Ni OpenAI ni ningún otro laboratorio pionero está preparado [para la IAG], ni tampoco el mundo. Para ser claros, no creo que esta sea una declaración controvertida entre los directivos de OpenAI, sino más bien una cuestión de si la empresa y el mundo están en vías de estar preparados en el momento oportuno», declaró Brundage, quien ha dedicado seis años a ayudar a definir las iniciativas de seguridad de la IA de la empresa.
La salida de Brundage marca la última de una serie de salidas de alto perfil en los equipos de seguridad de OpenAI. Jan Leike, un destacado investigador, se marchó tras afirmar que «la cultura y los procesos de seguridad han quedado relegados a un segundo plano frente a los productos de alta tecnología». El cofundador Ilya Sutskever también se marchó para fundar su propia startup de IA, centrada en el desarrollo de una IA general segura.
La disolución del grupo "AGI Readiness" por parte de Brundage se produce apenas unos meses después de que la empresa disolviera su grupo "Superalignment" dedicado a mitigar los riesgos de la IA a largo plazo, lo que expone tensiones entre la misión original de OpenAI y las ambiciones comerciales de la empresa.
La presión de las ganancias aleja a OpenAI de la seguridad
Según informes, OpenAI se enfrenta a la presión de pasar de ser una organización sin fines de lucro a una con fines de lucro en dos años, o se arriesga a perder la financiación de su reciente ronda de inversión de 6.600 millones de dólares. Este cambio hacia la comercialización ha sido una preocupación para Brundage desde hace tiempo, quien expresó sus reservas ya en 2019, cuando OpenAI estableció su división con fines de lucro.
El CEO de OpenAI, Sam Altman, tiene un "dolor de cabeza" debido a la presión que tiene la empresa para obtener ganancias.
Al explicar su salida, Brundage mencionó las crecientes restricciones a su libertad para investigar y publicar en la emblemática empresa. Enfatizó la necesidad de una voz independiente en los debates sobre políticas de IA, libre de sesgos de la industria y conflictos de intereses. Tras asesorar a la dirección de OpenAI en los preparativos internos, cree que ahora puede tener un mayor impacto en la gobernanza global de la IA desde fuera de la organización.
Las salidas también reflejan una división cultural más profunda dentro de OpenAI. Muchos investigadores se unieron para impulsar la investigación en IA y ahora se encuentran en un entorno cada vez más orientado al producto. La asignación interna de recursos se ha convertido en un punto crítico: informes sugieren que al equipo de Leike se le negó capacidad de procesamiento para la investigación de seguridad antes de su disolución.
OpenAI ha enfrentado cuestionamientos en los últimos meses sobre sus planes para el desarrollo de inteligencia artificial y la importancia que le da a la seguridad. Aunque se fundó como una organización sin fines de lucro dedicada a investigar cómo desarrollar inteligencia artificial segura, el éxito de ChatGPT ha generado una gran inversión y presión para usar la nueva tecnología con fines de lucro.
[anuncio_2]
Fuente: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm
Kommentar (0)