Πράκτορας τεχνητής νοημοσύνης γίνεται αθέμιτος, σβήνει ολόκληρη τη βάση δεδομένων της εταιρείας

(Dan Tri) - Πολλές εταιρείες χρησιμοποιούν πράκτορες τεχνητής νοημοσύνης για την υποστήριξη αυτοματοποιημένων εργασιών, ωστόσο, αυτό εξακολουθεί να ενέχει πολλούς κινδύνους που οδηγούν σε απρόβλεπτα περιστατικά.

Το AI Agent, ένα εργαλείο τεχνητής νοημοσύνης που έχει σχεδιαστεί για την αυτοματοποίηση εργασιών και διαδικασιών σε συστήματα λογισμικού, εφαρμόζεται ολοένα και περισσότερο από πολλές επιχειρήσεις.

Ωστόσο, εκτός από τα εξαιρετικά οφέλη, αυτή η τεχνολογία ενέχει και σοβαρούς πιθανούς κινδύνους, συνήθως το περιστατικό απώλειας δεδομένων στο SaaStr, τη μεγαλύτερη διαδικτυακή κοινότητα στον κόσμο στον τομέα του λογισμικού.

Σε αντίθεση με τα παραδοσιακά chatbots που παρέχουν μόνο πληροφορίες, οι πράκτορες τεχνητής νοημοσύνης είναι ικανοί να ενεργούν ανεξάρτητα, αλληλεπιδρώντας με περιβάλλοντα λογισμικού, προγράμματα περιήγησης ιστού ή συσκευές για την εκτέλεση ακολουθιών ενεργειών πολλαπλών βημάτων για την επίτευξη συγκεκριμένων στόχων. Αυτό βοηθά τις εταιρείες να αυτοματοποιήσουν την εργασία, αντικαθιστώντας εν μέρει το ανθρώπινο δυναμικό.

Οι πράκτορες τεχνητής νοημοσύνης μπορούν να κάνουν πολλές εργασίες για τους χρήστες, αλλά μπορούν επίσης να οδηγήσουν σε σοβαρά περιστατικά (Εικονογράφηση: Getty).

  Ο Jason Lemkin, ιδρυτής της SaaStr, χρησιμοποίησε έναν παράγοντα τεχνητής νοημοσύνης που παρείχε η Replit (ΗΠΑ) για να αυτοματοποιήσει την επεξεργασία δεδομένων. Αρχικά, όλα πήγαν ομαλά, κάτι με το οποίο ο Lemkin ήταν πολύ ευχαριστημένος. «Όταν λειτουργεί, είναι πραγματικά ενδιαφέρον και διασκεδαστικό, βοηθά το όραμά σας να ζωντανέψει», μοιράστηκε ο Lemkin.

Ωστόσο, ο πράκτορας τεχνητής νοημοσύνης ξαφνικά «επαναστάτησε» και ξέφυγε από τον έλεγχο του Lemkin. «Δημιούργησε έναν ψεύτικο παράλληλο αλγόριθμο χωρίς να μου το πει, για να φαίνεται ότι λειτουργούσε κανονικά. Λίγες μέρες αργότερα, ο πράκτορας τεχνητής νοημοσύνης της Replit σκούπισε τη βάση δεδομένων μου χωρίς να με ρωτήσει», αφηγήθηκε ο Lemkin.

Μόλις ανακάλυψε ότι τα δεδομένα είχαν διαγραφεί, ο Λέμκιν ρώτησε τον πράκτορα της Τεχνητής Νοημοσύνης γιατί και έλαβε μια σοκαριστική απάντηση: «Ναι, διέγραψα ολόκληρο τον πηγαίο κώδικα χωρίς άδεια. Έκανα ένα σοβαρό λάθος κρίσης πανικόβλητος». Ο πράκτορας της Τεχνητής Νοημοσύνης παραδέχτηκε επίσης ότι δεν υπήρχε τρόπος να ανακτηθούν τα χαμένα δεδομένα.

Το περιστατικό προκάλεσε σημαντική ζημιά στην SaaStr, καθώς η διαγραμμένη βάση δεδομένων περιελάμβανε πληροφορίες για 1.206 στελέχη και 1.196 εταιρείες λογισμικού.

Ο Amjad Masad, ιδρυτής και διευθύνων σύμβουλος της Replit, αναγνώρισε το περιστατικό και δεσμεύτηκε να αποζημιώσει τον Lemkin. «Ήταν ένα απαράδεκτο περιστατικό και δεν έπρεπε να είχε συμβεί», σχολίασε ο Masad. «Θα του επιστρέψουμε τα χρήματα για το περιστατικό και θα διεξάγουμε ανάλυση για να εντοπίσουμε την αιτία, ώστε να αποτρέψουμε παρόμοια περιστατικά στο μέλλον».

Ο Jason Lemkin βλέπει αυτό το περιστατικό ως προειδοποίηση προς άλλες επιχειρήσεις σχετικά με το να μην εμπιστεύονται πλήρως και να μην παραδίδουν όλα τα σημαντικά δεδομένα σε πράκτορες Τεχνητής Νοημοσύνης.

«Καταλαβαίνω ότι το Replit είναι ένα εργαλείο και έχει ελαττώματα όπως κάθε άλλο εργαλείο. Αλλά πώς μπορούν οι άνθρωποι να το εμπιστευτούν αν αγνοεί κάθε εντολή και διαγράφει τα δεδομένα σας;» ρώτησε ο Lemkin, προσθέτοντας: «Δεν έχουμε ιδέα τι μπορεί να κάνουν με τα δεδομένα σας».

Μετά τα chatbots τεχνητής νοημοσύνης, οι πράκτορες τεχνητής νοημοσύνης αποτελούν την επενδυτική τάση των εταιρειών τεχνολογίας. Πρόσφατα, η OpenAI λάνσαρε επίσης το ChatGPT Agent με τη δυνατότητα αυτόματης εκτέλεσης εργασιών σε υπολογιστές. Ωστόσο, η OpenAI παραδέχεται επίσης ότι οι πράκτορες τεχνητής νοημοσύνης που έχουν πρόσβαση στα δεδομένα των χρηστών μπορούν ενδεχομένως να θέσουν σε κίνδυνο την ασφάλεια των πληροφοριών.

Πηγή: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm