Google retire sa promesse de ne pas utiliser l'IA à des fins militaires

Dans une mise à jour récente de ses principes d'IA, Alphabet, la société mère de Google, a expliqué comment elle envisageait d'utiliser l'IA à l'avenir. Elle a notamment supprimé sa promesse de ne pas utiliser l'IA pour fabriquer des armes, des outils de surveillance ou des « technologies susceptibles de causer des dommages généralisés ».

La ligne rouge de l'IA de Google

L'expression « ligne rouge de l'IA » de Google est apparue pour la première fois en 2018, lorsque des employés ont protesté contre le projet d'IA Maven, en partenariat avec le Département de la Défense américain. À l'époque, plus de 4 000 employés de Google ont signé une pétition pour mettre fin au projet et exiger que l'entreprise ne « développe jamais de technologies pour la guerre ».

Google a ensuite retiré son contrat de développement d'outils d'IA pour le Pentagone. L'entreprise a également fixé une limite, déclarant que les « applications non conformes » liées à l'IA, notamment les armes et les technologies collectant ou utilisant des informations à des fins de surveillance, en violation des normes internationalement reconnues, ne seront pas concernées. Les technologies causant ou susceptibles de causer un préjudice public, violant les principes largement reconnus du droit international et des droits de l'homme, ne seront pas non plus concernées.

Certaines applications Google sur iPhone

La décision de tracer une ligne rouge sur l’IA avec des armes a tenu Google à l’écart des accords militaires signés par d’autres géants de la technologie, notamment Amazon et Microsoft.

Cependant, face à ces changements majeurs dans la course à l'IA, Google a décidé de retirer sa promesse. Cela a suscité une vive controverse non seulement au sein de Google, mais témoigne également d'une importante réorientation des entreprises technologiques de la Silicon Valley vers le secteur de la défense.

Google est divisé en interne

Selon Business Insider , la mise à jour des principes et de l'éthique de l'IA a suscité une vive réaction de la part des employés de Google. Ces derniers ont exprimé leur frustration sur des forums internes. Un mème montrant le PDG Sundar Pichai interrogeant le moteur de recherche de Google avec la question « Comment devenir fournisseur d'armes ? » a suscité beaucoup d'intérêt.

Un autre employé a créé un mème demandant : « Sommes-nous les méchants de la levée de l’interdiction de l’IA pour les armes et la surveillance ? » L’entreprise compte désormais plus de 180 000 employés. Il se pourrait que des voix soutiennent encore la décision de Google de collaborer plus étroitement avec le gouvernement américain et ses clients du secteur militaire et de la défense.

Le raisonnement de Google

Un porte-parole de Google n'a pas immédiatement répondu à une demande de commentaire concernant le retrait de la « promesse IA ». Cependant, le directeur de l'IA, Demis Hassabis, a déclaré que les directives évoluaient dans un monde en mutation et que l'IA « protégerait la sécurité nationale ».

Dans un article de blog de l'entreprise, Hassabis et James Manyika, vice-président senior de la technologie et de la société de Google, ont déclaré qu'à mesure que la concurrence mondiale pour le leadership en matière d'IA s'intensifie, Google estime que l'IA doit être guidée par la liberté, l'égalité et le respect des droits de l'homme.

« Nous pensons que les entreprises, les gouvernements et les organisations partagent des valeurs et doivent travailler ensemble pour créer une IA capable de protéger les personnes, de stimuler la croissance mondiale et de soutenir la sécurité nationale », ont-ils ajouté.

Deux dirigeants de Google ont déclaré que des milliards de personnes utilisent l'IA au quotidien. L'intelligence artificielle est devenue une technologie polyvalente, une plateforme que d'innombrables organisations et particuliers utilisent pour créer des applications. L'IA est passée d'un sujet de recherche de niche en laboratoire à une technologie aussi omniprésente que les téléphones portables et Internet. Le « serment IA » de Google, prononcé en 2018, doit donc être actualisé en conséquence.

Alphabet a déclaré qu'il prévoyait de dépenser 75 milliards de dollars l'année prochaine, principalement pour développer les capacités et l'infrastructure de l'IA.

Source : https://thanhnien.vn/google-rut-lai-loi-hua-khong-dung-ai-cho-quan-su-185250206161804981.htm