Η Microsoft εκδίδει προειδοποίηση επειδή η τεχνητή νοημοσύνη στα Windows 11 είναι πολύ «ισχυρή»

Χάρη στη δύναμη της τεχνητής νοημοσύνης, η Microsoft πιστεύει επίσης ότι τα Windows 11 βρίσκονται στη διαδικασία εξέλιξής τους σε ένα «επιθετικό λειτουργικό σύστημα» στο μέλλον.

Η Microsoft βρίσκεται στη διαδικασία ανάπτυξης των Windows 11, με σχέδια για τη μετάβασή τους σε ένα «επιθετικό λειτουργικό σύστημα» στο μέλλον. Ωστόσο, η εταιρεία εξέδωσε προειδοποίηση σχετικά με τους πιθανούς κινδύνους που σχετίζονται με αυτή τη νέα λειτουργία.

Πριν από την κυκλοφορία πειραματικών λειτουργιών στους χρήστες των Windows Insiders, η Microsoft συνιστά στους χρήστες των Windows 11 να ενεργοποιήσουν αυτές τις λειτουργίες μόνο εάν κατανοούν τις επιπτώσεις στην ασφάλεια.

Συνιστάται στους χρήστες να είναι προσεκτικοί σχετικά με την παραχώρηση πρόσβασης σε στοιχεία πρακτόρων τεχνητής νοημοσύνης.

Σύμφωνα με το BGR , η Microsoft επιβεβαίωσε ότι τα στοιχεία του παράγοντα AI (τεχνητής νοημοσύνης) θα απενεργοποιηθούν από προεπιλογή, επειδή αυτή η λειτουργία μπορεί να προκαλέσει κινδύνους επίθεσης cross-prompt injection (XPIA).

Αυτή η επίθεση συμβαίνει όταν σε εφαρμογές τεχνητής νοημοσύνης παρέχεται πρόσβαση σε αρχεία χρηστών, κάτι που μπορεί να οδηγήσει σε διαρροές δεδομένων ή εγκατάσταση κακόβουλου λογισμικού. Οι λογαριασμοί πρακτόρων, που χορηγούνται όταν είναι ενεργοποιημένες οι λειτουργίες των πρακτόρων τεχνητής νοημοσύνης, έχουν περιορισμένη πρόσβαση στον φάκελο προφίλ του χρήστη, αλλά εξακολουθούν να έχουν τη δυνατότητα να προκαλέσουν ακούσιες συνέπειες.

Τα πειραματικά στοιχεία του παράγοντα AI, που ονομάζονται Agent Workspace, είναι πλέον διαθέσιμα σε προεπισκόπηση για προγραμματιστές και σύντομα θα κυκλοφορήσουν σε περισσότερους χρήστες.

Ενώ καμία εφαρμογή δεν υποστηρίζει ακόμη αυτήν τη λειτουργία, η Copilot σύντομα θα έχει πρόσβαση στο Agent Workspace. Ωστόσο, αυτό εγείρει επίσης ανησυχίες σχετικά με την προστασία της ιδιωτικής ζωής, καθώς η Copilot μπορεί να δει ολόκληρη την οθόνη του χρήστη.

Τα στοιχεία του χώρου εργασίας του παράγοντα θεωρούνται επικίνδυνα από τη Microsoft και είναι απενεργοποιημένα από προεπιλογή.

Η Microsoft τονίζει ότι η ασφάλεια δεν είναι μια προσωρινή λειτουργία, αλλά μια συνεχής δέσμευση που θα βελτιωθεί με την πάροδο του χρόνου. Το Agent Workspace έχει σχεδιαστεί για να επιτρέπει στις εφαρμογές AI να έχουν πρόσβαση σε αρχεία στο παρασκήνιο, ενώ οι χρήστες συνεχίζουν να χρησιμοποιούν τις συσκευές τους.

Ωστόσο, οι χρήστες εξακολουθούν να μπορούν να διαχειρίζονται την πρόσβαση και να διακόπτουν τον παράγοντα όταν είναι απαραίτητο. Προς το παρόν, πολλοί άνθρωποι εξακολουθούν να εκφράζουν ανησυχίες και διαφωνίες σχετικά με αυτήν τη νέα λειτουργία σε διαδικτυακά φόρουμ.

Ωστόσο, η Microsoft πιστεύει ότι καθώς περισσότεροι χρήστες αποκτούν πρόσβαση σε πειραματικές λειτουργίες πρακτόρων τεχνητής νοημοσύνης, θα έχουν περισσότερες πληροφορίες σχετικά με τον τρόπο λειτουργίας τους και την ασφάλειά τους.

Η Microsoft εισάγει λειτουργίες τεχνητής νοημοσύνης στο Agent 365.

Πηγή: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html