¡La amenaza de extinción y la paradoja de la era de la IA!

En mayo, el CEO Altman presentó una petición ante el Senado de Estados Unidos en Washington, DC, con un llamado urgente a los legisladores: además de aprovechar la superioridad de la IA, también necesitamos crear pronto regulaciones estrictas para minimizar el riesgo de que domine a la humanidad.

Interfaz ChatGPT en el sitio web. Foto: Shutterstock

“Riesgos profundos para la sociedad y la humanidad”

Con el lanzamiento de ChatGPT de OpenAI a finales del año pasado, Altman, de 38 años, surgió de la noche a la mañana como el creador de una nueva generación de herramientas de IA que pueden generar imágenes y texto a pedido de los usuarios, una tecnología conocida como IA generativa.

No mucho después de su lanzamiento, ChatGPT se convirtió en un nombre familiar. Los ejecutivos lo han usado para redactar correos electrónicos, la gente ha creado sitios web sin experiencia previa en codificación y ha aprobado exámenes en escuelas de derecho y de negocios. Tiene el potencial de revolucionar casi todas las industrias, incluidas la educación, las finanzas, la agricultura , los medios de comunicación, el periodismo y la salud, desde la cirugía hasta el desarrollo de vacunas médicas.

Pero esas mismas herramientas han suscitado inquietudes sobre todo, desde las trampas en las escuelas y la pérdida de empleos, hasta amenazas a la existencia misma de la humanidad.

El auge de la IA, por ejemplo, ha hecho que los economistas adviertan sobre el mercado laboral. Según estimaciones de Goldman Sachs, en todo el mundo se podrían automatizar de alguna forma hasta 300 millones de puestos de trabajo a tiempo completo mediante IA. Según un informe de abril del Foro Económico Mundial, unos 14 millones de puestos de trabajo podrían desaparecer en los próximos cinco años.

Además, en su testimonio ante el Congreso de Estados Unidos, Altman dijo que el potencial de que la IA se use para manipular a los votantes y atacar la desinformación es una de "las áreas que más me preocupan".

Dos semanas después de la audiencia, Altman se unió a cientos de destacados científicos, investigadores y líderes empresariales en IA para firmar una carta que declaraba: «Minimizar el riesgo de extinción por IA debe ser una prioridad global, junto con otros riesgos a escala social, como las pandemias y la guerra nuclear».

La advertencia fue ampliamente difundida en la prensa y los medios de comunicación. Y un número cada vez mayor de personas sostienen que estos escenarios apocalípticos deben tomarse más en serio.

Pero hay una gran paradoja en Silicon Valley: los directores ejecutivos de algunas de las mayores empresas tecnológicas están diciendo al público que la IA tiene el potencial de causar la extinción humana, pero se apresuran a invertir en la tecnología y desplegarla para miles de millones de usuarios.

Altman ha demostrado desde hace tiempo estar preocupado por los riesgos que plantea la IA y se ha comprometido a avanzar de manera responsable. Forma parte de un grupo de directores ejecutivos de tecnología que se reúnen con líderes de la Casa Blanca, incluido el presidente Joe Biden y la vicepresidenta Kamala Harris, para destacar la importancia de desarrollar una IA ética y responsable.

Pero eso no es suficiente. Otros quieren que Altman y OpenAI actúen con más cautela. Incluso Elon Musk, quien ayudó a fundar OpenAI antes de dejar el grupo, y docenas de líderes tecnológicos, profesores e investigadores han pedido a los laboratorios de inteligencia artificial como OpenAI que dejen de entrenar sus sistemas de IA más potentes durante al menos seis meses, citando “profundos riesgos para la sociedad y la humanidad”.

Altman dijo que estaba de acuerdo con partes de la carta, incluyendo que “se deben aumentar los niveles de seguridad”, pero dijo que una pausa no sería la “forma óptima” de abordar los desafíos.

OpenAI todavía tiene el pie en el acelerador. Más recientemente, se informó que OpenAI y el diseñador de iPhone Jony Ive estaban en conversaciones para recaudar mil millones de dólares del conglomerado japonés SoftBank para un dispositivo de inteligencia artificial que reemplazaría a los teléfonos inteligentes.

¿Se puede confiar en Sam?

Cuando inició OpenAI, Altman le dijo a CNN en 2015 que quería dar forma al camino de la IA, en lugar de preocuparse por posibles daños y no hacer nada. “Duermo mejor sabiendo que ahora puedo tener cierta influencia”, declaró.

Aún así, Altman dijo que tiene preocupaciones sobre la tecnología. "Estoy preparado para sobrevivir", dijo en un artículo del New Yorker de 2016, señalando una serie de posibles escenarios catastróficos, incluido "que la IA nos ataque".

Sam Altman, director ejecutivo de OpenAI, habla ante el Senado de Estados Unidos el 16 de mayo en Washington, EE. UU. Foto: AP

“Pero tengo armas, oro, antibióticos, baterías, agua, máscaras de gas… y un enorme terreno en Big Sur al que puedo volar”, declaró, dando a entender que él personalmente aún podría sobrevivir si ocurriera un desastre. Ésta es claramente una declaración egoísta.

En lo que quizás sea el esfuerzo más amplio hasta el momento, el presidente Biden anunció una orden ejecutiva a principios de esta semana que requiere que los desarrolladores de potentes sistemas de inteligencia artificial compartan los resultados de sus pruebas de seguridad con las autoridades federales antes de divulgarlos al público, para ver si representan un riesgo para la seguridad nacional, la economía o la salud.

Tras la audiencia del Senado de Estados Unidos, Emily Bender, profesora de la Universidad de Washington y directora del Laboratorio de Lingüística Computacional, expresó su preocupación por el futuro de la IA, incluso si está estrictamente regulada. “Si realmente creen que esto podría llevar a la extinción humana, ¿por qué no detenerse?” Ella declaró.

Una buena formulación de políticas debe estar informada por muchas perspectivas e intereses, no solo por uno o unos pocos, y moldeada por el interés público, dijo Margaret O'Mara, historiadora de tecnología y profesora de la Universidad de Washington. “El desafío con la IA es que muy pocas personas y empresas entienden realmente cómo funciona y qué significa usarla, como la bomba atómica”, afirma O’Mara.

Por lo tanto, sería arriesgado para el mundo contar con Altman para actuar en el mejor interés de la humanidad con una tecnología que él mismo admite que podría ser un arma de destrucción masiva y ha preparado un refugio en caso de que ocurra un desastre. ¡Además, después de todo, es sólo un ser humano, no un superhéroe ni un salvador!

Hoang Hai (según CNN, FT, Reuters)

Fuente: https://www.congluan.vn/tri-tue-nhan-tao-moi-de-doa-diet-vong-va-nghich-ly-thoi-dai-ai-post270736.html