En una actualización reciente de sus principios de IA, Alphabet, la empresa matriz de Google, ha detallado cómo planea utilizar la IA en el futuro. En particular, ha eliminado la promesa de no usar la IA para desarrollar armas, herramientas de vigilancia o "tecnologías que puedan causar daños generalizados".
La línea roja de la IA de Google
El término «línea roja de la IA de Google» surgió por primera vez en 2018, cuando los empleados protestaron contra el proyecto de IA Maven, desarrollado en colaboración con el Departamento de Defensa de Estados Unidos. En aquel entonces, más de 4000 empleados de Google firmaron una petición para poner fin al proyecto y exigir que la empresa jamás «desarrollara tecnología para la guerra».
Posteriormente, Google rescindió su contrato para desarrollar herramientas de IA para el Pentágono. La empresa también estableció una línea roja, declarando que no participaría en aplicaciones de IA que fueran «inapropiadas», incluyendo armas y tecnologías que recopilen o utilicen información para vigilancia que viole las normas internacionalmente aceptadas. Tampoco se utilizarían tecnologías que causen o puedan causar daño público, o que violen principios ampliamente aceptados del derecho internacional y los derechos humanos .
Algunas aplicaciones de Google en el iPhone
La decisión de establecer una línea roja en el uso de la IA para armamento ha mantenido a Google fuera de los acuerdos militares firmados por otros gigantes tecnológicos, incluidos Amazon y Microsoft.
Sin embargo, ante los enormes cambios en la carrera de la IA, Google ha decidido retirar su promesa. Esto ha generado gran controversia, no solo dentro de Google, sino que también evidencia un importante giro de las empresas tecnológicas de Silicon Valley en el sector de la defensa.
Google está dividido internamente.
Según Business Insider , la actualización sobre los principios y la ética de la IA ha generado una fuerte reacción negativa entre los empleados de Google. Estos expresaron su frustración en los foros internos. Un meme que muestra al CEO Sundar Pichai consultando el buscador de Google con la pregunta "¿cómo convertirse en contratista de armas?" ha captado mucha atención.
Otro empleado creó un meme preguntando: "¿Somos los malos por levantar la prohibición de la IA para armas y vigilancia?". La empresa cuenta ahora con más de 180.000 empleados. Es posible que aún haya voces que apoyen la decisión de Google de colaborar más estrechamente con el gobierno estadounidense y sus clientes militares y de defensa.
El razonamiento de Google
Un portavoz de Google no respondió de inmediato a una solicitud de comentarios sobre la retirada de la “promesa de IA”. Sin embargo, el jefe de IA, Demis Hassabis, dijo que las directrices estaban evolucionando en un mundo cambiante y que la IA “protegería la seguridad nacional”.
En una publicación del blog de la compañía, Hassabis y James Manyika, vicepresidente senior de tecnología y sociedad de Google, afirmaron que, a medida que se intensifica la competencia global por el liderazgo en IA, Google cree que la IA debe guiarse por la libertad, la igualdad y el respeto a los derechos humanos.
“Creemos que las empresas, los gobiernos y las organizaciones comparten valores y deberían trabajar juntos para crear una IA que pueda proteger a las personas, impulsar el crecimiento global y apoyar la seguridad nacional”, añadieron.
Dos ejecutivos de Google afirmaron que miles de millones de personas utilizan la IA en su vida diaria. La inteligencia artificial se ha convertido en una tecnología de uso general, una plataforma que innumerables organizaciones e individuos emplean para desarrollar aplicaciones. La IA ha pasado de ser un tema de investigación especializado en laboratorios a una tecnología tan omnipresente como los teléfonos móviles e internet. Por lo tanto, el «compromiso con la IA» de Google de 2018 debe actualizarse en consecuencia.
Alphabet anunció que planea invertir 75 mil millones de dólares el próximo año, principalmente para desarrollar capacidades e infraestructura de IA.
Fuente: https://thanhnien.vn/google-rut-lai-loi-hua-khong-dung-ai-cho-quan-su-185250206161804981.htm
Kommentar (0)