Google retire sa promesse de ne pas utiliser l'IA à des fins militaires

Dans une mise à jour récente de ses principes d'IA, Alphabet, la société mère de Google, a expliqué comment elle envisageait d'utiliser l'IA à l'avenir. Elle a notamment supprimé sa promesse de ne pas utiliser l'IA pour fabriquer des armes, des outils de surveillance ou des « technologies susceptibles de causer des dommages généralisés ».

Les lignes rouges de Google sur l'IA

L'expression « ligne rouge » de Google en matière d'IA est apparue pour la première fois en 2018, lorsque des employés ont protesté contre le projet d'IA Maven, fruit d'une collaboration avec le ministère américain de la Défense . À l'époque, plus de 4 000 employés de Google avaient signé une pétition pour mettre fin au projet et exiger que l'entreprise ne « développe jamais de technologies pour la guerre ».

Google n'a ensuite pas renouvelé son contrat de développement d'outils d'IA pour le Pentagone. L'entreprise a également tracé une ligne rouge, déclarant que les « applications non conformes » de l'IA, notamment les armes et les technologies collectant ou utilisant des informations à des fins de surveillance en violation des normes internationalement reconnues, ne seraient pas non plus utilisées par Google. Les technologies causant ou susceptibles de causer un préjudice public, ou violant les principes largement reconnus du droit international et des droits de l'homme, ne seraient pas non plus utilisées.

Certaines applications Google sur iPhone

La décision de tracer une ligne rouge sur l’IA avec des armes a empêché Google de participer aux accords militaires signés par d’autres géants de la technologie, notamment Amazon et Microsoft.

Cependant, face à ces changements majeurs dans la course à l'IA, Google a décidé de retirer sa promesse. Cette décision a suscité une vive controverse non seulement au sein de Google, mais témoigne également d'une importante réorientation des entreprises technologiques de la Silicon Valley vers le secteur de la défense.

Google est divisé en interne

Selon Business Insider , la mise à jour des principes et de l'éthique de l'IA a suscité une vive réaction de la part des employés de Google. Ces derniers ont exprimé leur frustration sur des forums internes. Un mème montrant le PDG Sundar Pichai interrogeant le moteur de recherche de Google avec la question « Comment devenir fournisseur d'armes ? » a suscité beaucoup d'intérêt.

Un autre employé a créé un mème demandant : « Sommes-nous les méchants de la levée de l’interdiction de l’IA pour les armes et la surveillance ? » L’entreprise compte plus de 180 000 employés. Il se pourrait que des voix soutiennent encore la décision de Google de collaborer plus étroitement avec le gouvernement américain et ses clients du secteur militaire et de la défense.

Le raisonnement de Google

Un porte-parole de Google n'a pas immédiatement répondu à une demande de commentaire sur le retrait de la « promesse IA ». Cependant, le directeur de l'IA, Demis Hassabis, a déclaré que les directives évoluaient dans un monde en mutation et que l'IA « protégerait la sécurité nationale ».

Dans un article de blog de l'entreprise, Hassabis et James Manyika, vice-président senior de la technologie et de la société de Google, ont déclaré qu'à mesure que la concurrence mondiale pour le leadership en matière d'IA s'intensifie, Google estime que l'IA doit être guidée par la liberté, l'égalité et le respect des droits de l'homme.

« Nous pensons que les entreprises, les gouvernements et les organisations partagent des valeurs et doivent travailler ensemble pour créer une IA capable de protéger les personnes, de stimuler la croissance mondiale et de soutenir la sécurité nationale », ont-ils ajouté.

Deux dirigeants de Google ont déclaré que des milliards de personnes utilisent l'IA au quotidien. L'intelligence artificielle est devenue une technologie polyvalente, une plateforme que d'innombrables organisations et particuliers utilisent pour créer des applications. L'IA est passée d'un sujet de recherche de niche en laboratoire à une technologie aussi omniprésente que les téléphones portables et Internet. Le « serment IA » de Google, prononcé en 2018, doit donc être actualisé en conséquence.

Alphabet a déclaré qu'il prévoyait de dépenser 75 milliards de dollars l'année prochaine, principalement pour développer des capacités et des infrastructures d'IA.

Source : https://thanhnien.vn/google-rut-lai-loi-hua-khong-dung-ai-cho-quan-su-185250206161804981.htm