Le patron de Veo 3 met en garde contre un risque plus grand que l'IA, qui pourrait provoquer un chômage de masse

Demis Hassabis, PDG de DeepMind (la branche de recherche en IA de Google), n'est pas particulièrement préoccupé par une « apocalypse de l'IA » - il est davantage préoccupé par le risque que la technologie tombe entre de mauvaises mains et par le manque de garanties pour contrôler les modèles d'IA complexes et autonomes.

« Ces deux risques sont importants et difficiles à gérer », a-t-il déclaré lors d’une interview avec CNN lors de l’événement SXSW qui s’est récemment tenu au Royaume-Uni.

M. Chua Veo : 3 avertissements d'un danger plus grand que le chômage de masse 1.png

Demis Hassabis, PDG de Google DeepMind, met en garde contre les risques importants liés à l'IA. Photo : Bloomberg

La semaine dernière, le PDG d'Anthropic, un important laboratoire d'IA, a lancé un avertissement alarmant quant à l'avenir du marché du travail. Il a prédit que l'IA pourrait supprimer la moitié des emplois de bureau. Mais sa principale inquiétude réside dans le potentiel détournement de l'« intelligence artificielle générale » (IAG), un type d'IA théoriquement capable d'atteindre une intelligence de niveau humain.

« Un individu malintentionné pourrait détourner ces technologies à des fins malveillantes », a-t-il déclaré. « La grande question est donc de savoir comment restreindre l'accès des escrocs à ces puissants systèmes tout en permettant aux individus bien intentionnés d'en faire de grandes choses. »

En mai, le FBI a déclaré que des pirates informatiques avaient utilisé l'IA pour créer de faux messages vocaux de représentants du gouvernement. Un rapport commandé par le Département d'État américain l'année dernière a également révélé que l'IA pourrait présenter des risques « catastrophiques » pour la sécurité nationale, selon CNN . L'IA a également facilité la création de deepfakes pornographiques.

Hassabis n'est pas le premier à soulever de telles inquiétudes. Si l'IA est saluée comme l'une des plus grandes avancées technologiques depuis Internet, elle offre également aux escrocs et aux acteurs malveillants des outils plus nombreux que jamais. Elle connaît notamment une croissance rapide, sans grande réglementation.

Juste après avoir licencié 6 000 personnes, Microsoft continue de licencier des centaines d'employés. Quelques semaines après avoir licencié 6 000 employés, Microsoft continue de licencier plus de 300 personnes, tout en investissant des milliards de dollars dans l'intelligence artificielle (IA).

Hassabis estime qu’il est nécessaire de parvenir à un accord international sur les principes fondamentaux de l’utilisation de l’IA et sur la manière de garantir que la technologie ne soit utilisée que « pour de bons cas d’utilisation ».

« Évidemment, compte tenu de la situation géopolitique actuelle, cela semble difficile », a-t-il déclaré. « Mais j'espère qu'à mesure que la situation s'améliorera et que l'IA gagnera en sophistication, le monde prendra de plus en plus conscience de la nécessité de cette évolution. »

Le PDG de DeepMind pense également que nous nous dirigeons vers un avenir où les gens utilisent des « assistants » IA pour effectuer des tâches en leur nom, une vision vers laquelle Google travaille en intégrant davantage d'IA dans sa fonction de recherche et en développant des lunettes intelligentes alimentées par l'IA.

« Nous l'appelons parfois un assistant IA omnipotent, qui vous accompagnera partout, vous aidera dans votre vie quotidienne, effectuera des tâches administratives simples pour vous, mais enrichira également votre vie en vous suggérant de grandes choses, des livres et des films jusqu'à même des amis à rencontrer », a partagé le PDG de Google DeepMind.

Cependant, l'IA reste sujette à des limitations telles que les biais et les « hallucinations », qui ont causé des problèmes notables aux entreprises qui l'utilisent. Par exemple, le Chicago Sun-Times et le Philadelphia Inquirer ont publié une liste de lectures estivales générée par l'IA, incluant des livres inexistants.

Hassabis ne croit pas que l'IA rendra les emplois obsolètes. Comme d'autres acteurs du secteur, il estime que la technologie peut créer de nouveaux types d'emplois et accroître la productivité. Mais il reconnaît également que la société devra probablement s'adapter et trouver comment « répartir toute la productivité supplémentaire générée par l'IA dans l'économie ».

Il compare l’IA au développement d’autres changements technologiques, comme Internet.

« Normalement, de nouveaux emplois, encore meilleurs, apparaissent pour remplacer certains des emplois supprimés. Nous verrons si cela se produit cette fois-ci », a-t-il déclaré.

(Selon CNN)

Source : https://vietnamnet.vn/ong-chu-veo-3-canh-bao-nguy-co-lon-hon-ca-viec-ai-gay-that-nghiep-hang-loat-2409366.html