Google retira su promesa de no usar IA con fines militares

En una actualización reciente de sus principios de IA, Alphabet, la empresa matriz de Google, ha explicado cómo planea usar la IA en el futuro. En particular, ha eliminado la promesa de no usar la IA para desarrollar armas, herramientas de vigilancia o tecnologías que puedan causar daños generalizados.

Las líneas rojas de Google en la IA

El término "línea roja" de la IA de Google surgió por primera vez en 2018, cuando los empleados protestaron contra el proyecto de IA Maven de la compañía, una colaboración con el Departamento de Defensa de EE. UU. En aquel momento, más de 4000 empleados de Google firmaron una petición para finalizar el proyecto y exigir que la compañía nunca "desarrollara tecnología para la guerra".

Google no renovó su contrato para desarrollar herramientas de IA para el Pentágono. La compañía también estableció una línea roja, declarando que Google no utilizaría las "aplicaciones no conformes" de la IA, incluyendo armas y tecnologías que recopilan o utilizan información para vigilancia que violan las normas internacionalmente aceptadas. Tampoco se utilizarían tecnologías que causen o puedan causar daño público, o que violen principios ampliamente aceptados del derecho internacional y los derechos humanos.

Algunas aplicaciones de Google en iPhone

La decisión de trazar una línea roja sobre la IA con armas ha impedido que Google participe en acuerdos militares firmados por otros gigantes tecnológicos, incluidos Amazon y Microsoft.

Sin embargo, ante estos enormes cambios en la carrera de la IA, Google ha decidido retirar su promesa. Esto ha generado mucha controversia no solo dentro de Google, sino que también muestra un importante cambio en las empresas tecnológicas de Silicon Valley en la industria de defensa.

Google está dividido internamente

Según Business Insider , la actualización sobre los principios y la ética de la IA ha generado una fuerte reacción por parte de los empleados de Google. Estos han expresado su frustración en foros internos. Un meme que muestra al director ejecutivo Sundar Pichai preguntando en el buscador de Google "¿cómo convertirse en contratista de armas?" ha generado mucha controversia.

Otro empleado creó un meme preguntando: "¿Somos los malos por levantar la prohibición de la IA para armas y vigilancia?". La empresa tiene más de 180.000 empleados. Es posible que aún haya voces que apoyen la decisión de Google de colaborar más estrechamente con el gobierno estadounidense y sus clientes militares y de defensa.

El razonamiento de Google

Un portavoz de Google no respondió de inmediato a una solicitud de comentarios sobre la retirada de la "promesa de IA". Sin embargo, el director de IA, Demis Hassabis, afirmó que las directrices estaban evolucionando en un mundo cambiante y que la IA "protegería la seguridad nacional".

En una publicación en el blog de la empresa, Hassabis y James Manyika, vicepresidente senior de tecnología y sociedad de Google, dijeron que a medida que se intensifica la competencia global por el liderazgo en IA, Google cree que la IA debe guiarse por la libertad, la igualdad y el respeto por los derechos humanos.

“Creemos que las empresas, los gobiernos y las organizaciones comparten valores y deben trabajar juntos para crear una IA que pueda proteger a las personas, impulsar el crecimiento global y apoyar la seguridad nacional”, agregaron.

Dos ejecutivos de Google afirmaron que miles de millones de personas usan IA en su vida diaria. La inteligencia artificial se ha convertido en una tecnología de uso general, una plataforma que innumerables organizaciones e individuos utilizan para desarrollar aplicaciones. La IA ha pasado de ser un tema de investigación especializado en el laboratorio a una tecnología tan omnipresente como los teléfonos móviles e internet. Por lo tanto, el "juramento de IA" de Google de 2018 debe actualizarse en consecuencia.

Alphabet dijo que planea gastar 75 mil millones de dólares el próximo año, principalmente para desarrollar capacidades e infraestructura de inteligencia artificial.

Fuente: https://thanhnien.vn/google-rut-lai-loi-hua-khong-dung-ai-cho-quan-su-185250206161804981.htm