OpenAI y Anthropic comparten los últimos modelos de IA con el gobierno de EE. UU.

Las dos empresas se asociarán con el Instituto de Seguridad de IA de EE. UU., una unidad del Instituto Nacional de Estándares y Tecnología (NIST), una agencia federal estadounidense. Esto se considera un paso importante en la gestión y supervisión de la tecnología de IA, que ha sido una preocupación importante desde el lanzamiento de ChatGPT de OpenAI.

"Este es sólo el comienzo, pero un hito importante en el esfuerzo por gestionar responsablemente el futuro de la IA", afirmó Elizabeth Kelly, directora del Instituto de Seguridad de la IA de Estados Unidos.

Según el acuerdo, el Instituto de Seguridad de IA de EE. UU. proporcionará información a ambas empresas sobre posibles mejoras de seguridad en sus modelos, tanto antes como después de su lanzamiento al público. El instituto también colaborará estrechamente con el Instituto de Seguridad de IA del Reino Unido durante este proceso.

“La colaboración con el Instituto Americano de Seguridad de la IA aprovecha su amplia experiencia para probar rigurosamente nuestros modelos antes de su implementación generalizada. Esto mejora nuestra capacidad para identificar y mitigar riesgos, promoviendo así el desarrollo responsable de la IA”, afirmó Jack Clark, cofundador y director de políticas de Anthropic.

La medida es parte de un esfuerzo para implementar la orden ejecutiva de IA de la Casa Blanca que se publicará en 2023, que tiene como objetivo crear un marco legal para la rápida implementación de modelos de IA en los EE. UU.

Pero mientras el gobierno federal está adoptando un enfoque voluntario, los legisladores de California, el centro tecnológico de Estados Unidos, aprobaron el 28 de agosto un proyecto de ley de seguridad de IA a nivel estatal. El proyecto de ley, si lo firma el gobernador, impondría regulaciones más estrictas a la industria de la IA.

Sam Altman, director ejecutivo de OpenAI, ha expresado su apoyo a la regulación de la IA a nivel nacional en lugar de a nivel estatal, argumentando que esto ayudaría a evitar el riesgo de obstaculizar la investigación y la innovación en el campo de la IA.

La medida de las principales empresas tecnológicas y el gobierno de Estados Unidos muestra una tendencia hacia el equilibrio entre la innovación y la seguridad en el campo de la IA, en rápida evolución.

Fuente: https://nhandan.vn/openai-va-anthropic-chia-se-moi-nhat-ai-voi-chinh-phu-my-post827601.html