Dans une mise à jour récente de ses principes relatifs à l'IA, Alphabet, la maison mère de Google, a exposé ses intentions quant à l'utilisation future de l'IA. Notamment, elle a supprimé l'engagement de ne pas utiliser l'IA pour concevoir des armes, des outils de surveillance ou des « technologies susceptibles de causer des dommages considérables ».
Ligne rouge de l'IA de Google
L'expression « ligne rouge de l'IA chez Google » est apparue pour la première fois en 2018, lorsque des employés ont protesté contre le projet Maven AI, mené en partenariat avec le département de la Défense américain. À l'époque, plus de 4 000 employés de Google ont signé une pétition pour mettre fin au projet et exiger que l'entreprise ne développe jamais de technologies à des fins militaires.
Google a alors retiré son contrat de développement d'outils d'IA pour le Pentagone. L'entreprise a également posé une limite infranchissable, déclarant que les « applications non conformes » liées à l'IA, notamment les armes et les technologies collectant ou utilisant des informations à des fins de surveillance en violation des normes internationalement reconnues, ne seront pas concernées. Les technologies susceptibles de causer un préjudice public ou violant les principes largement acceptés du droit international et des droits humains seront également exclues.
Certaines applications Google sur iPhone
La décision de tracer une ligne rouge concernant l'IA et les armes a empêché Google de participer aux accords militaires signés par d'autres géants de la technologie, notamment Amazon et Microsoft.
Cependant, face à ces bouleversements majeurs dans la course à l'IA, Google a décidé de revenir sur sa promesse. Cette décision a suscité une vive controverse, non seulement au sein de Google, mais elle témoigne également d'un changement important dans la stratégie des entreprises technologiques de la Silicon Valley en matière de défense.
Google est divisé en interne.
Selon Business Insider , la mise à jour des principes et de l'éthique de l'IA a suscité une vive réaction parmi les employés de Google. Ces derniers ont exprimé leur frustration sur les forums internes. Un mème montrant le PDG Sundar Pichai interrogeant le moteur de recherche de Google avec la question « comment devenir fournisseur d'armement ? » a fait le buzz.
Un autre employé a créé un mème demandant : « Sommes-nous les méchants pour avoir levé l’interdiction de l’IA dans les domaines de l’armement et de la surveillance ? » L’entreprise compte désormais plus de 180 000 employés. Il se peut que certaines voix soutiennent encore la décision de Google de collaborer plus étroitement avec le gouvernement américain et ses clients du secteur militaire et de la défense.
Le raisonnement de Google
Un porte-parole de Google n'a pas immédiatement répondu à une demande de commentaires concernant le retrait de la « promesse en matière d'IA ». Cependant, le responsable de l'IA, Demis Hassabis, a déclaré que les directives évoluaient dans un monde en mutation et que l'IA « protégerait la sécurité nationale ».
Dans un article publié sur le blog de l'entreprise, Hassabis et James Manyika, vice-président senior de Google en charge de la technologie et de la société, ont déclaré que, face à l'intensification de la concurrence mondiale pour le leadership en matière d'IA, Google estime que l'IA doit être guidée par la liberté, l'égalité et le respect des droits de l'homme.
« Nous pensons que les entreprises, les gouvernements et les organisations partagent des valeurs et devraient travailler ensemble pour créer une IA capable de protéger les personnes, de stimuler la croissance mondiale et de soutenir la sécurité nationale », ont-ils ajouté.
Deux dirigeants de Google ont déclaré que des milliards de personnes utilisent l'IA au quotidien. L'intelligence artificielle est devenue une technologie à usage général, une plateforme que d'innombrables organisations et particuliers utilisent pour développer des applications. L'IA est passée d'un sujet de recherche de niche en laboratoire à une technologie aussi omniprésente que les téléphones mobiles et Internet. Par conséquent, le « serment d'engagement » de Google en matière d'IA de 2018 doit être mis à jour en conséquence.
Alphabet a annoncé son intention de dépenser 75 milliards de dollars l'année prochaine, principalement pour développer ses capacités et son infrastructure en matière d'IA.
Source : https://thanhnien.vn/google-rut-lai-loi-hua-khong-dung-ai-cho-quan-su-185250206161804981.htm
Comment (0)