Le PDG d'Anthropic met en garde contre une catastrophe en matière de cybersécurité : il ne reste que 12 mois au monde.

Le PDG d'Anthropic prévient que le monde n'a que 6 à 12 mois pour corriger les dizaines de milliers de vulnérabilités logicielles découvertes par le modèle d'IA Mythos avant que l'IA chinoise ne rattrape son retard.

Le PDG d'Anthropic, Dario Amodei, a déclaré que Mythos, le dernier modèle d'IA de l'entreprise, a détecté des dizaines de milliers de vulnérabilités dans des logiciels critiques. Il a notamment averti que les gouvernements , les entreprises technologiques et les banques n'ont que 6 à 12 mois pour corriger ces problèmes avant que l'IA chinoise ne les rattrape.

Le dernier modèle d'Anthropic a détecté des dizaines de milliers de vulnérabilités dans des logiciels critiques. Photo : Bloomberg

Ces propos ont été tenus lors d'un événement Anthropic le 5 mai, où Amodei est apparu aux côtés du PDG de JPMorgan Chase, Jamie Dimon, et a annoncé un nouvel assistant IA conçu pour automatiser les tâches financières.

« Le danger réside dans l’augmentation considérable du nombre de vulnérabilités, de violations de données et de pertes financières causées par les rançongiciels aux écoles, aux hôpitaux, sans parler des banques », a souligné Amodei.

Anthropic a limité l'accès à Mythos à un petit nombre d'entreprises partenaires par crainte d'une exploitation par des criminels ou des nations hostiles. Si les précédentes mises à jour de ses modèles ont été bien accueillies sur le marché, Mythos est le produit qui a suscité le plus d'inquiétudes auprès des entreprises et des décideurs politiques.

L'ampleur des vulnérabilités exploitables a explosé à chaque nouvelle génération de Claude. Un modèle Anthropic antérieur avait détecté une vingtaine de vulnérabilités dans le navigateur Firefox. En revanche, Mythos en a découvert près de 300, et le nombre total de vulnérabilités dans tous les logiciels se chiffre désormais en dizaines de milliers.

La plupart des vulnérabilités découvertes par Mythos restent non publiées car elles n'ont pas été corrigées et « des acteurs malveillants les exploiteraient » si elles étaient identifiées.

Malgré cela, Amodei et Dimon ont tous deux exprimé leur optimisme – mais sous certaines conditions.

« Nous traversons une période dangereuse, mais si nous réagissons correctement, nous pourrons progresser vers un monde meilleur », a déclaré Amodei.

M. Dimon a également fait remarquer que si les inquiétudes concernant le cyberespace sont tout à fait justifiées, les risques de cybersécurité créés par l'IA ne constituent qu'une « phase de transition ».

En matière de réglementation, Amodei soutient que la surveillance de l'IA devrait être similaire à celle en vigueur dans l'industrie automobile, en trouvant un équilibre entre la sécurité des consommateurs et la possibilité pour le secteur de rester compétitif.

« On ne peut pas créer une entreprise de fabrication automobile sans se demander : "Cette voiture a-t-elle des freins ?" Nous devons trouver un processus qui permette à l'industrie de fonctionner rapidement et équitablement, tout en mettant en place des barrières contre les problèmes les plus graves », a-t-il affirmé.

(Selon CNBC)

Grâce à l'intelligence artificielle, une banque vietnamienne a réduit son délai de traitement des demandes de crédit de 5 jours à une demi-journée. Cependant, l'utilisation de cette technologie soulève d'importants défis en matière de sécurité des données et de gestion des ressources humaines.

Source : https://vietnamnet.vn/ceo-anthropic-canh-bao-tham-hoa-an-ninh-mang-the-gioi-chi-con-12-thang-2513150.html