Ο Διευθύνων Σύμβουλος της Anthropic προειδοποιεί για καταστροφή στον κυβερνοχώρο, ο κόσμος έχει μόνο 12 μήνες ακόμα.

Ο Διευθύνων Σύμβουλος της Anthropic προειδοποιεί ότι ο κόσμος έχει μόνο 6-12 μήνες για να διορθώσει δεκάδες χιλιάδες τρωτά σημεία λογισμικού που ανακαλύφθηκαν από το μοντέλο τεχνητής νοημοσύνης Mythos, προτού η κινεζική τεχνητή νοημοσύνη την προλάβει.

Ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, δήλωσε ότι η Mythos - το τελευταίο μοντέλο τεχνητής νοημοσύνης της εταιρείας - έχει εντοπίσει δεκάδες χιλιάδες ευπάθειες σε κρίσιμο λογισμικό. Αξίζει να σημειωθεί ότι προειδοποίησε ότι οι κυβερνήσεις , οι εταιρείες τεχνολογίας και οι τράπεζες έχουν μόνο 6-12 μήνες για να διορθώσουν αυτά τα προβλήματα προτού η κινεζική τεχνητή νοημοσύνη προλάβει να την προλάβει.

Το τελευταίο μοντέλο της Anthropic έχει εντοπίσει δεκάδες χιλιάδες ευπάθειες σε κρίσιμο λογισμικό. Φωτογραφία: Bloomberg

Αυτά τα σχόλια έγιναν σε μια εκδήλωση της Anthropic στις 5 Μαΐου, όπου η Amodei εμφανίστηκε μαζί με τον Διευθύνοντα Σύμβουλο της JPMorgan Chase, Jamie Dimon, και ανακοίνωσε έναν νέο βοηθό τεχνητής νοημοσύνης που έχει σχεδιαστεί για την αυτοματοποίηση οικονομικών εργασιών.

«Ο κίνδυνος έγκειται στην τεράστια αύξηση του αριθμού των τρωτών σημείων, των παραβιάσεων και των οικονομικών απωλειών που προκαλούνται από ransomware σε σχολεία, νοσοκομεία, για να μην αναφέρουμε τις τράπεζες», τόνισε ο Amodei.

Η Anthropic έχει περιορισμένη πρόσβαση στο Mythos σε λίγες επιλεγμένες συνεργαζόμενες εταιρείες λόγω ανησυχιών σχετικά με το τι θα μπορούσαν να εκμεταλλευτούν εγκληματίες ή εχθρικά έθνη. Ενώ οι προηγούμενες ενημερώσεις μοντέλων της εταιρείας έχουν γίνει ευπρόσδεκτες στην αγορά, το Mythos παραμένει το πιο ανησυχητικό προϊόν τόσο για τις επιχειρήσεις όσο και για τους υπεύθυνους χάραξης πολιτικής.

Η κλίμακα των εκμεταλλεύσιμων τρωτών σημείων έχει εκτοξευθεί με κάθε γενιά του Claude. Ένα προηγούμενο μοντέλο Anthropic εντόπισε περίπου 20 τρωτά σημεία στο πρόγραμμα περιήγησης Firefox. Ωστόσο, το Mythos έχει ανακαλύψει σχεδόν 300 ελαττώματα και ο συνολικός αριθμός τρωτών σημείων σε όλο το λογισμικό ανέρχεται πλέον σε δεκάδες χιλιάδες.

Τα περισσότερα από τα τρωτά σημεία που ανακάλυψε ο Mythos παραμένουν αδημοσίευτα επειδή δεν έχουν διορθωθεί και «κακόβουλοι δράστες θα τα εκμεταλλεύονταν» εάν εντοπιστούν.

Παρά ταύτα, τόσο ο Αμοντέι όσο και ο Ντίμον εξέφρασαν αισιοδοξία – αλλά με όρους.

«Αυτή είναι μια επικίνδυνη στιγμή, αλλά αν αντιδράσουμε σωστά, μπορούμε να προχωρήσουμε προς έναν καλύτερο κόσμο στην άλλη πλευρά», δήλωσε ο Αμοντέι.

Ο κ. Ντάιμον σημείωσε επίσης ότι ενώ οι ανησυχίες για τον κυβερνοχώρο είναι απολύτως δικαιολογημένες, οι κίνδυνοι κυβερνοασφάλειας που δημιουργούνται από την Τεχνητή Νοημοσύνη αποτελούν απλώς μια «μεταβατική φάση».

Όσον αφορά τη ρύθμιση, ο Amodei υποστηρίζει ότι η εποπτεία της Τεχνητής Νοημοσύνης θα πρέπει να είναι παρόμοια με αυτήν στην αυτοκινητοβιομηχανία, επιτυγχάνοντας μια ισορροπία μεταξύ της ασφάλειας των καταναλωτών και του ανταγωνισμού στη βιομηχανία.

«Δεν μπορείς απλώς να ξεκινήσεις μια εταιρεία κατασκευής αυτοκινήτων χωρίς να αναρωτηθείς: "Έχει αυτό το αυτοκίνητο φρένα;" Πρέπει να βρούμε μια διαδικασία που να επιτρέπει στον κλάδο να λειτουργεί γρήγορα και δίκαια, αλλά να θέτει παράλληλα εμπόδια στα πιο σοβαρά προβλήματα», υποστήριξε.

(Σύμφωνα με το CNBC)

Μια τράπεζα μείωσε τον χρόνο επεξεργασίας των αξιολογήσεων πιστοληπτικής ικανότητας από 5 ημέρες σε μισή ημέρα χάρη στην Τεχνητή Νοημοσύνη . Η Τεχνητή Νοημοσύνη βοήθησε μια βιετναμέζικη τράπεζα να μειώσει τον χρόνο που απαιτείται για την επεξεργασία των αιτήσεων πίστωσης από 5 ημέρες σε περίπου μισή ημέρα, αλλά η εφαρμογή αυτής της τεχνολογίας θέτει σημαντικές προκλήσεις όσον αφορά την ασφάλεια των δεδομένων και τη διαχείριση των ανθρώπινων πόρων.

Πηγή: https://vietnamnet.vn/ceo-anthropic-canh-bao-tham-hoa-an-ninh-mang-the-gioi-chi-con-12-thang-2513150.html