En un anuncio del 25 de mayo, OpenAI dijo que otorgaría 10 subvenciones por valor de 100.000 dólares a 10 ideas que ayuden a encontrar formas de gestionar el software de IA para abordar el sesgo y otros factores, según Reuters.
Las subvenciones se otorgarán a investigaciones convincentes que respondan a preguntas difíciles como si la IA debería criticar a las figuras públicas y a quién debería considerar neutral.
Los sistemas de IA deberían beneficiar a toda la humanidad y estar diseñados para ser lo más inclusivos posible. Lanzamos este programa de subvenciones como un primer paso en esta dirección, anunció OpenAI.
Las cuestiones relacionadas con la IA están atrayendo la atención del público.
La empresa con sede en San Francisco dijo que la financiación podría influir en las opiniones de OpenAI sobre la gobernanza de la IA, pero señaló que ninguna de las propuestas es vinculante.
Las subvenciones de OpenAI no se consideran demasiado cuantiosas para la investigación en IA. Según Reuters, los ingenieros de IA y otros profesionales de esta industria en auge pueden ganar fácilmente 100.000 dólares al año, e incluso superar los 300.000.
Los críticos afirman que los sistemas de IA como ChatGPT están sesgados y se basan en la información que reciben. Durante las interacciones, los usuarios han detectado respuestas racistas o sexistas del software de IA.
Esto genera una creciente preocupación de que cuando se utiliza IA en lugar de motores de búsqueda como Google de Alphabet o Bing de Microsoft, podría producir información inexacta pero convincente.
Casi todas las industrias están interesadas en el potencial de la IA para mejorar la productividad y reducir los costos laborales. Sin embargo, existe la preocupación de que la IA pueda difundir información errónea y falsedades que la gente crea. Se han citado numerosos casos como prueba de ello. En particular, recientemente circuló en redes sociales la imagen de una explosión cerca del Pentágono. El incidente tuvo un impacto temporal en el mercado de valores, pero posteriormente se determinó que la imagen fue generada por IA.
OpenAI lidera la iniciativa para regular la IA, según Reuters. La compañía también está implementando actualizaciones para ChatGPT y su herramienta de generación de imágenes DALL-E. Durante una audiencia en el Congreso este mes, el director ejecutivo de OpenAI, Sam Altman, afirmó que si la tecnología de IA falla, podría tener consecuencias muy graves.
Microsoft, que ha invertido 10.000 millones de dólares en OpenAI, también ha abogado recientemente por una gobernanza integral de la IA, aunque la compañía ha prometido llevar la tecnología a productos para consumidores y empresas, compitiendo con OpenAI, Google y otras empresas emergentes.
[anuncio_2]
Enlace de origen
Kommentar (0)