Sam Altman abandona el Comité de Seguridad de OpenAI y cede el control a un grupo independiente

Según un anuncio del blog oficial de OpenAI, el Comité de Seguridad y Protección se convertirá en un grupo de supervisión independiente dependiente de la junta directiva. El profesor de la Universidad Carnegie Mellon, Zico Kolter, presidirá el comité, junto con otros miembros, entre ellos el director ejecutivo de Quora, Adam D'Angelo, el general retirado del ejército estadounidense Paul Nakasone y la ex vicepresidenta ejecutiva de Sony, Nicole Seligman. Todos estos miembros son actualmente miembros de la junta directiva de OpenAI.

Después de que Altman dimitiera, la Comisión completó una evaluación de seguridad del último modelo de inteligencia artificial de la empresa: o1. El equipo continuará recibiendo información del equipo de seguridad de OpenAI y se reserva el derecho de retrasar el lanzamiento si no se resuelven los problemas de seguridad.

Según OpenAI, el Comité mantendrá un papel importante en la supervisión técnica de los modelos actuales y futuros, junto con el seguimiento después de su publicación. La empresa se compromete a desarrollar procesos de seguridad integrados con criterios de evaluación claros para garantizar que cada uno de sus modelos de IA se implemente de forma segura.

La decisión de Altman de abandonar el comité se produce después de que un grupo de cinco senadores estadounidenses enviara una carta pidiendo a OpenAI que aclarara sus políticas de seguridad. Durante el año pasado, casi la mitad del personal de OpenAI, que se centraba en investigar los riesgos a largo plazo de la IA, abandonó la empresa. Los ex investigadores de OpenAI han criticado a Altman por no abogar por una fuerte regulación de la IA y, en cambio, favorecer políticas que promuevan los objetivos comerciales de la empresa.

Crédito de la imagen: Justin Sullivan / Getty Images

Además, OpenAI ha aumentado significativamente su gasto en lobby ante el Congreso de Estados Unidos. La empresa ha presupuestado $800,000 para los primeros seis meses de 2024, en comparación con $260,000 para todo 2023. Altman también forma parte de la Junta de Seguridad y Protección de Inteligencia Artificial del Departamento de Seguridad Nacional, donde contribuye a hacer recomendaciones relacionadas con la IA en toda la infraestructura crítica del país.

Aunque Altman ha abandonado el Comité de Seguridad y Privacidad, parece haber pocos indicios de que el comité tome decisiones que puedan obstaculizar seriamente el camino comercial de OpenAI. En mayo, OpenAI dijo que buscaría abordar las “críticas válidas” de su trabajo a través de este comité, aunque las “críticas válidas” dependen en gran medida de la perspectiva del revisor.

En un editorial publicado en The Economist en mayo, dos ex miembros de la junta directiva de OpenAI, Helen Toner y Tasha McCauley, expresaron su preocupación por la capacidad de la empresa para autogobernarse. Argumentan que OpenAI actualmente no es capaz de rendir cuentas bajo la presión de las ganancias.

Las ganancias de OpenAI se están convirtiendo en un factor cada vez más importante. La compañía está en proceso de recaudar 6.500 millones de dólares en una nueva ronda de financiación, valorando a OpenAI en más de 150.000 millones de dólares. Para atraer inversores, OpenAI podría considerar abandonar su estructura híbrida sin fines de lucro, que está diseñada para limitar los retornos a los inversores en favor de su objetivo de desarrollar IA para el bien común de la humanidad.

Hung Nguyen (según TechCrunch)

Fuente: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html