Demis Hassabis, PDG de DeepMind (la branche de recherche en IA de Google), n'est pas particulièrement préoccupé par une « apocalypse de l'IA » - il est davantage préoccupé par le risque que la technologie tombe entre de mauvaises mains et par le manque de garanties pour contrôler les modèles d'IA complexes et autonomes.

« Ces deux risques sont importants et difficiles à gérer », a-t-il déclaré lors d’une interview avec CNN lors de l’événement SXSW qui s’est récemment tenu au Royaume-Uni.

Bloomberg, PDG de Google DeepMind
Demis Hassabis, PDG de Google DeepMind, met en garde contre les risques importants liés à l'IA. Photo : Bloomberg

La semaine dernière, le PDG d'Anthropic, un important laboratoire d'IA, a lancé un avertissement alarmant quant à l'avenir du marché du travail. Il a prédit que l'IA pourrait supprimer la moitié des emplois de bureau. Mais sa principale inquiétude réside dans le potentiel détournement de l'« intelligence artificielle générale » (IAG), un type d'IA théoriquement capable d'atteindre une intelligence de niveau humain.

« Un individu malintentionné pourrait détourner ces technologies à des fins malveillantes », a-t-il déclaré. « La grande question est donc de savoir comment restreindre l'accès des escrocs à ces puissants systèmes tout en permettant aux individus bien intentionnés d'en faire de grandes choses. »

En mai, le FBI a déclaré que des pirates informatiques avaient utilisé l'IA pour créer de faux messages vocaux de représentants du gouvernement. Un rapport commandé par le Département d'État américain l'année dernière a également révélé que l'IA pourrait présenter des risques « catastrophiques » pour la sécurité nationale, selon CNN . L'IA a également facilité la création de deepfakes pornographiques.

Hassabis n'est pas le premier à soulever de telles inquiétudes. Si l'IA est saluée comme l'une des plus grandes avancées technologiques depuis Internet, elle offre également aux escrocs et aux acteurs malveillants des outils plus nombreux que jamais. Elle connaît notamment une croissance rapide, sans grande réglementation.

Quelques semaines seulement après avoir licencié 6 000 employés, Microsoft continue de licencier des centaines d'autres. Quelques semaines après avoir licencié 6 000 employés, Microsoft continue de licencier plus de 300 personnes, tandis que l'entreprise investit des milliards de dollars dans l'intelligence artificielle (IA).

Hassabis estime qu’il est nécessaire de parvenir à un accord international sur les principes fondamentaux de l’utilisation de l’IA et sur la manière de garantir que la technologie ne soit utilisée que « pour de bons cas d’utilisation ».

« Évidemment, compte tenu de la situation géopolitique actuelle, cela semble difficile », a-t-il déclaré. « Mais j'espère qu'à mesure que la situation s'améliorera et que l'IA gagnera en sophistication, le monde prendra de plus en plus conscience de la nécessité de cette évolution. »

Le PDG de DeepMind pense également que nous nous dirigeons vers un avenir où les gens utilisent des « assistants » IA pour effectuer des tâches en leur nom, une vision vers laquelle Google travaille en intégrant davantage d'IA dans sa fonction de recherche et en développant des lunettes intelligentes alimentées par l'IA.

« Nous l'appelons parfois un assistant IA omnipotent, qui vous accompagnera partout, vous aidera dans votre vie quotidienne, effectuera des tâches administratives simples pour vous, mais enrichira également votre vie en vous suggérant de grandes choses, des livres et des films jusqu'à même des amis à rencontrer », a partagé le PDG de Google DeepMind.

Cependant, l'IA reste sujette à des limitations telles que les biais et les « hallucinations », qui ont causé des problèmes notables aux entreprises qui l'utilisent. Par exemple, le Chicago Sun-Times et le Philadelphia Inquirer ont publié une liste de lectures estivales générée par l'IA, incluant des livres inexistants.

Hassabis ne croit pas que l'IA rendra les emplois obsolètes. Comme d'autres acteurs du secteur, il estime que la technologie peut créer de nouveaux types d'emplois et accroître la productivité. Mais il reconnaît également que la société devra probablement s'adapter et trouver comment « répartir toute la productivité supplémentaire générée par l'IA dans l'économie ».

Il compare l’IA au développement d’autres changements technologiques, comme Internet.

« Normalement, de nouveaux emplois, encore meilleurs, apparaissent pour remplacer certains des emplois supprimés. Nous verrons si cela se produit cette fois-ci », a-t-il déclaré.

(Selon CNN)

Achat et vente de comptes Veo 3 au Vietnam : risque de perte d'argent et de données . Dans la fièvre de la création de vidéos utilisant l'intelligence artificielle (IA), de nombreuses personnes ont dépensé de l'argent pour acheter des comptes Veo 3 afin de créer du contenu. Cependant, ce comportement présente des risques à la fois financiers et de données.

Source : https://vietnamnet.vn/ong-chu-veo-3-canh-bao-nguy-co-lon-hon-ca-viec-ai-gay-that-nghiep-hang-loat-2409366.html