El director de OpenAI afirma que se necesitan nuevas normas para combatir los riesgos de la IA

"Me preocupa eso", dijo el director ejecutivo Sam Altman sobre el posible uso de IA para interferir en las elecciones, enfatizando la necesidad de reglas y pautas adicionales para regir el campo de la inteligencia artificial.

Sam Altman, director ejecutivo de ChatGPT, testifica ante el Congreso de EE. UU. Foto: NBC

En los últimos meses, empresas grandes y pequeñas se han apresurado a comercializar productos de IA, impulsadas por el auge de ChatGPT. Algunos críticos temen que esta tecnología agrave los daños sociales, como la profundización de los prejuicios y la propagación de desinformación.

“No hay manera de regular completamente la IA, especialmente cuando su popularidad está en auge a nivel mundial”, dijo el senador Cory Booker, uno de los muchos legisladores que se preguntan cuál es la mejor manera de regularla.

La senadora Mazie Hirono señaló el riesgo de desinformación generalizada a medida que se acercan las elecciones de 2024. Al hablar ante el Congreso por primera vez, Altman sugirió que Estados Unidos debería considerar requisitos de licencia y pruebas para el desarrollo de modelos de IA.

Cuando se le pidió que comentara qué IA debería licenciarse, dijo que un modelo que pudiera persuadir o manipular las creencias de una persona sería una "línea a considerar".

También dijo que las empresas deberían tener el derecho a decir que no quieren que sus datos se utilicen para entrenar a la IA, algo que también se está discutiendo en el Congreso de Estados Unidos.

La Casa Blanca ha convocado a los principales directores ejecutivos del sector tecnológico, incluido Sam Altman, para abordar el problema de la IA. Los legisladores estadounidenses también están trabajando para encontrar soluciones que mejoren los beneficios de esta tecnología y la seguridad nacional, a la vez que limitan su uso indebido.

Un empleado de OpenAI propuso recientemente que Estados Unidos cree un organismo de licencias de IA, que podría llamarse Oficina de Seguridad y Protección de Infraestructura de IA, u OASIS.

OpenAI cuenta con el respaldo de Microsoft. Altman también insta a la cooperación global en IA y anima a las empresas a cumplir con las normas de seguridad.

Christina Montgomery, directora de confianza y privacidad de IBM, ha pedido al Congreso que centre la regulación en áreas con mayor potencial de daño social.

Hoang Ton (según NBC, Reuters)

Fuente: https://www.congluan.vn/ceo-cua-openai-keu-goi-cac-quy-tac-de-chong-lai-rui-ro-ai-post247993.html