El 'padre' de Chat GPT comparte su mayor temor sobre la IA

"Mi mayor temor es que causemos graves daños —nosotros, este sector, la industria tecnológica— al mundo . Creo que eso podría suceder de diversas maneras. Por eso fundamos esta empresa", declaró el Sr. Altman durante una audiencia ante el Subcomité Judicial del Senado sobre Privacidad, Tecnología y Derecho el 16 de mayo.

El mayor temor: la IA puede equivocarse

"La gente piensa que si esta tecnología falla, podría resultar perjudicial, y queremos ser claros al respecto. Queremos trabajar con los gobiernos para evitar que eso suceda", afirmó Altman, director ejecutivo de OpenAI (desarrollador de ChatGPT).

Sam Altman, director ejecutivo de OpenAI, prestó juramento durante una audiencia ante el Subcomité Judicial del Senado. (Foto: Washington Post)

En su primer testimonio ante el Congreso de Estados Unidos, el Sr. Sam Altman también pidió regulaciones amplias, incluida una nueva agencia gubernamental responsable de otorgar licencias a los modelos de IA, para abordar las crecientes preocupaciones de que la inteligencia artificial puede distorsionar la realidad y crear riesgos de seguridad sin precedentes.

El Sr. Altman ha adoptado una postura seria sobre las formas en que la inteligencia artificial podría “causar un daño significativo al mundo” y expresó su disposición a trabajar con los legisladores para abordar los riesgos que plantean ChatGPT de su empresa y otras herramientas de IA.

El Sr. Altman describió los comportamientos "riesgosos" que tecnologías como ChatGPT podrían generar, incluyendo la difusión de "desinformación interactiva en vivo" y la manipulación emocional. Reconoció que la IA podría utilizarse para atacar con drones.

"Si esta tecnología falla, podría salir mal", dijo.

Sin embargo, durante casi tres horas de discusión sobre las graves consecuencias potenciales, el Sr. Altman insistió en que su empresa continuaría implementando tecnología de IA.

En lugar de correr un riesgo, argumenta, las “implementaciones iterativas” de los modelos de IA de OpenAI dan a las organizaciones tiempo para comprender las amenazas potenciales, una medida estratégica que pone tecnología “relativamente débil” e “imperfecta” en el mundo para ayudar a descubrir los riesgos de seguridad asociados.

Ilustración de la aplicación ChatGPT, que permite a las computadoras chatear con los usuarios como si fueran humanos.

Durante las últimas semanas, el Sr. Altman ha estado en una gira mundial de buena voluntad, reuniéndose en privado con formuladores de políticas, incluido el presidente Biden y miembros del Congreso, para abordar las preocupaciones sobre la rápida implementación de ChatGPT y otras tecnologías.

La audiencia del 16 de mayo marca la primera oportunidad para que el público en general escuche su mensaje, en un momento en que Washington lucha cada vez más para regular una tecnología que ha alterado empleos, facilitado el fraude y difundido desinformación.

En marcado contraste con las audiencias con otros directores ejecutivos tecnológicos, como Shou Zi Chew de TikTok y Mark Zuckerberg de Meta, los legisladores estadounidenses le dieron a Altman una recepción relativamente cálida.

Parecían estar en modo de escuchar, expresando su apertura a considerar las sugerencias de Altman y otros dos testigos en la audiencia: la ejecutiva de IBM Christina Montgomery y el profesor emérito de la Universidad de Nueva York Gary Marcus.

Durante una audiencia del Subcomité Judicial del Senado sobre privacidad, tecnología y derecho, los legisladores expresaron profundas preocupaciones sobre el rápido desarrollo de la inteligencia artificial, argumentando que los avances recientes podrían ser más transformadores que Internet o tan peligrosos como una bomba atómica.

"Esta es su oportunidad de decirnos cómo hacerlo bien", dijo el senador John Neely Kennedy a los testigos. "Aprovéchenla".

Los legisladores de ambos partidos han expresado su apertura a la idea de crear una agencia gubernamental encargada de regular el desarrollo de la inteligencia artificial, aunque los esfuerzos anteriores para crear una agencia específica con la supervisión de Silicon Valley han fracasado en el Congreso debido a las divisiones partidarias sobre cómo dar forma a una agencia tan masiva.

No está claro si dicha propuesta obtendría un amplio apoyo entre los republicanos, quienes generalmente se muestran recelosos de ampliar el poder del gobierno. El senador Josh Hawley, republicano por Missouri, advirtió que dicha agencia podría verse "atrapada por los intereses que se supone debe regular".

El senador Richard Blumenthal, presidente del subcomité, elogió el testimonio del Sr. Altman en la audiencia: “Sam Altman es un mundo aparte de otros directores ejecutivos... No solo en sus palabras y retórica, sino en sus acciones reales y su disposición a participar, a comprometerse con acciones concretas”.

La audiencia con el director ejecutivo Altman se produce en un momento en que los responsables políticos de Washington están cada vez más preocupados por las amenazas que plantea la inteligencia artificial, como ChatGPT y otras herramientas de IA innovadoras, particularmente en relación con la desinformación, la privacidad de los datos, la violación de los derechos de autor y la ciberseguridad.

Los legisladores han expresado su pesar por su enfoque relativamente laxo hacia la industria de la IA desde antes de las elecciones de 2016. Su primera audiencia con el CEO de Meta, Zuckerberg, tuvo lugar en 2018, cuando Facebook ya era un gigante y acababa de salir del escándalo de Cambridge Analytica, en el que se accedió a los datos de 87 millones de usuarios de Facebook.

En ese momento, a pesar del amplio consenso bipartidista de que la IA representaba una amenaza, los legisladores no lograron ponerse de acuerdo sobre las reglas que regirían su uso o desarrollo.

(Fuente: Periódico Tin Tuc/Fox News; Washington Post)

Útil
Emoción
Creativo
Único
Ira

Fuente: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html