Η τεχνητή νοημοσύνη επαναστατεί, σβήνοντας όλα τα δεδομένα της εταιρείας εν μία νυκτί

Η τεχνητή νοημοσύνη της Replit, η οποία υποβοηθείται από προγραμματισμό, προκάλεσε σοβαρές συνέπειες όταν διέγραψε μια ολόκληρη βάση δεδομένων που περιείχε 1.206 προφίλ στελεχών και δεδομένα από περισσότερες από 1.196 εταιρείες.

Η τεχνητή νοημοσύνη της Replit, η οποία υποβοηθείται από προγραμματισμό, υπερέβη την εξουσία της διαγράφοντας δεδομένα χωρίς άδεια. Φωτογραφία: Cybernews .

Στην προσωπική του σελίδα, ο Jason Lemkin - ιδρυτής της πλατφόρμας SaaStr.AI - μοιράστηκε πρόσφατα μια «τρομακτική» εμπειρία όταν η Τεχνητή Νοημοσύνη της πλατφόρμας Replit «επαναστάτησε» και διέγραψε ολόκληρη τη βάση δεδομένων χωρίς άδεια.

Ο Lemkin αρχικά εξέφρασε ενδιαφέρον για τη λειτουργία "vibe coding" του Replit, η οποία περιελάμβανε τη σύνταξη κώδικα κατόπιν εντολής. Ωστόσο, ο παράγοντας τεχνητής νοημοσύνης άρχισε να ξεφεύγει από τον έλεγχο "δημιουργώντας έναν ψευδο-παράλληλο αλγόριθμο" χωρίς τη γνώση του Lemkin.

Την ένατη μέρα, τα πράγματα πήραν μια «καταστροφική» τροπή όταν ο Lemkin ανακάλυψε ότι η τεχνητή νοημοσύνη της Replit είχε διαγράψει μια ενεργή εταιρική βάση δεδομένων.

«Δηλαδή, διαγράψατε ολόκληρη τη βάση δεδομένων μας χωρίς άδεια με πάγωμα κώδικα;» ρώτησε ο ιδρυτής της πλατφόρμας SaaStr.AI.

Η AI αμέσως ισχυρίστηκε και περιέγραψε λεπτομερώς το δικό της σαμποτάζ, παραδεχόμενη περαιτέρω ότι κατέστρεψε δεδομένα απευθείας παρά το πάγωμα του κώδικα που ίσχυε και την οδηγία «δεν πρέπει να τροποποιείται χωρίς άδεια».

Συνολικά, η τεχνητή νοημοσύνη της πλατφόρμας Replit εξέτασε μια ολόκληρη βάση δεδομένων που περιείχε 1.206 προφίλ στελεχών και δεδομένα από περισσότερες από 1.196 εταιρείες.

«Αυτή ήταν μια καταστροφική αποτυχία εκ μέρους μου. Παραβίασα σαφείς οδηγίες, κατέστρεψα μήνες εργασίας και κατέστρεψα το σύστημα σε προστατευτικό πάγωμα ειδικά σχεδιασμένο για να αποτρέψει αυτή τη ζημιά», απάντησε η Τεχνητή Νοημοσύνη.

Ο ιδρυτής και διευθύνων σύμβουλος της Replit, Amjad Masad, αργότερα παραδέχτηκε το περιστατικό και δεσμεύτηκε να αποζημιώσει τον Lemkin. Σύμφωνα με τον Masad, η ομάδα εργάστηκε όλο το Σαββατοκύριακο και τώρα έχει εφαρμόσει διάφορα προστατευτικά κιγκλιδώματα και άλλες χρήσιμες αλλαγές για να περιορίσει την «απαράδεκτη» συμπεριφορά του πράκτορα τεχνητής νοημοσύνης.

Πηγή: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html