El mundo no está preparado para desarrollar una IA tan inteligente como el cerebro humano.

El mundo no está preparado para la inteligencia artificial general (AGI), o el punto en que la inteligencia artificial sea tan inteligente como el cerebro humano, según un investigador senior de OpenAI.

¿La inteligencia artificial general es un riesgo?

Durante años, los investigadores han especulado sobre el surgimiento de la inteligencia artificial general, o IAG, donde los sistemas artificiales podrán gestionar una amplia gama de tareas con la misma eficacia que los humanos. Muchos ven su surgimiento como un riesgo existencial, ya que podría permitir que las computadoras operen de maneras inimaginables para los humanos.

Según el Sr. Miles Brindage, el mundo no está preparado para la era de la inteligencia artificial general (IAG).

Ahora, el hombre encargado de garantizar que OpenAI, desarrollador de ChatGPT, esté listo para la IA general, admite que ni el mundo ni la propia empresa están "listos" para el siguiente paso. Miles Brundage se desempeñó como asesor principal de OpenAI en preparación para la IA general, pero anunció su salida esta semana tras la disolución del grupo por parte de la empresa.

Ni OpenAI ni ningún otro laboratorio pionero está preparado (para la IAG), ni tampoco el mundo. Para ser claros, no creo que esta sea una declaración controvertida entre los directivos de OpenAI, sino más bien una cuestión de si la empresa y el mundo están en vías de estar preparados en el momento oportuno», declaró Brundage, quien ha dedicado seis años a contribuir a la definición de las iniciativas de seguridad de la IA de la empresa.

La salida de Brundage marca la última de una serie de salidas notables en los equipos de seguridad de OpenAI. Jan Leike, un destacado investigador, se marchó tras afirmar que «la cultura y los procesos de seguridad han quedado relegados a un segundo plano frente a los productos de alta tecnología». El cofundador Ilya Sutskever también se marchó para fundar su propia startup de IA, centrada en el desarrollo de una IAG segura.

La disolución del grupo "AGI Readiness" por parte de Brundage se produce apenas unos meses después de que la empresa disolviera su grupo "Superalignment" dedicado a mitigar los riesgos de la IA a largo plazo, exponiendo tensiones entre la misión original de OpenAI y sus ambiciones comerciales.

La presión de las ganancias aleja a OpenAI del camino seguro

Según informes, OpenAI se enfrenta a la presión de pasar de ser una organización sin fines de lucro a una con fines de lucro en dos años, o se arriesga a perder la financiación de su reciente ronda de inversión de 6.600 millones de dólares. Este cambio hacia la comercialización ha sido una preocupación para Brundage desde hace tiempo, quien ha expresado sus reservas desde 2019, cuando OpenAI estableció su división con fines de lucro.

El CEO de OpenAI, Sam Altman, tiene un "dolor de cabeza" debido a la presión que tiene la empresa para buscar ganancias.

Al explicar su salida, Brundage mencionó las crecientes restricciones a su libertad para investigar y publicar en la prestigiosa empresa. Enfatizó la necesidad de una voz independiente en los debates sobre políticas de IA, libre de sesgos de la industria y conflictos de intereses. Tras asesorar a la dirección de OpenAI en los preparativos internos, cree que ahora puede tener un mayor impacto en la gobernanza global de la IA desde fuera de la organización.

Las salidas también reflejan una división cultural más profunda dentro de OpenAI. Muchos investigadores se unieron para impulsar la investigación en IA y ahora se encuentran en un entorno cada vez más orientado al producto. La asignación interna de recursos se ha convertido en un punto crítico: los informes indican que al equipo de Leike se le negó capacidad de procesamiento para la investigación de seguridad antes de su disolución.

OpenAI ha enfrentado cuestionamientos en los últimos meses sobre sus planes para el desarrollo de inteligencia artificial y la importancia que le da a la seguridad. Aunque se fundó como una organización sin fines de lucro dedicada a investigar cómo desarrollar inteligencia artificial segura, el éxito de ChatGPT ha generado una inversión significativa y ha presionado para usar la nueva tecnología con fines de lucro.

Fuente: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm