Η Meta μόλις κυκλοφόρησε ένα νέο κιτ εργαλείων ασφάλειας τεχνητής νοημοσύνης ανοιχτού κώδικα.

Η Meta προσπαθεί να καθιερωθεί ως πρωτοπόρος στην ανάπτυξη τεχνολογιών τεχνητής νοημοσύνης.

Η Meta παρουσίασε το Purple Llama, ένα έργο αφιερωμένο στη δημιουργία εργαλείων ανοιχτού κώδικα για προγραμματιστές, με σκοπό την αξιολόγηση και βελτίωση της αξιοπιστίας και της ασφάλειας των παραγόμενων μοντέλων τεχνητής νοημοσύνης (AI) πριν από την ανάπτυξή τους.

Ο Μέτα τόνισε την ανάγκη για συλλογικές προσπάθειες για τη διασφάλιση της ασφάλειας της Τεχνητής Νοημοσύνης, ενώ παράλληλα δήλωσε ότι οι προκλήσεις της Τεχνητής Νοημοσύνης δεν μπορούν να αντιμετωπιστούν μεμονωμένα.

Η εταιρεία δήλωσε ότι ο στόχος του Purple Llama είναι να δημιουργήσει μια κοινή πλατφόρμα για την ανάπτυξη ασφαλέστερης γενετικής τεχνητής νοημοσύνης εν μέσω αυξανόμενων ανησυχιών σχετικά με τα μεγάλα γλωσσικά μοντέλα και άλλες τεχνολογίες τεχνητής νοημοσύνης.

Ο Gareth Lindahl-Wise, Διευθυντής Ασφάλειας Πληροφοριών στην εταιρεία κυβερνοασφάλειας Ontinue, χαρακτήρισε το Purple Llama «ένα θετικό και προληπτικό βήμα» προς μια ασφαλέστερη τεχνολογία τεχνητής νοημοσύνης.

Το Project Purple Llama συνεργάζεται με προγραμματιστές τεχνητής νοημοσύνης, υπηρεσίες cloud όπως οι AWS και Google Cloud, εταιρείες ημιαγωγών όπως οι Intel, AMD και Nvidia, καθώς και εταιρείες λογισμικού, συμπεριλαμβανομένης της Microsoft.

Το πρώτο κιτ εργαλείων που κυκλοφόρησε μέσω του Purple Llama είναι το CyberSecEval – ένα εργαλείο αξιολόγησης κινδύνου στον κυβερνοχώρο με τεχνολογία τεχνητής νοημοσύνης.

Έχει ένα γλωσσικό μοτίβο που αναγνωρίζει ακατάλληλο ή επιβλαβές κείμενο, συμπεριλαμβανομένων συζητήσεων για βία ή παράνομη δραστηριότητα.

Οι προγραμματιστές μπορούν να χρησιμοποιήσουν το CyberSecEval για να ελέγξουν εάν τα μοντέλα τεχνητής νοημοσύνης τους είναι επιρρεπή στη δημιουργία μη ασφαλούς κώδικα ή στην υποστήριξη κυβερνοεπιθέσεων.

Η έρευνα της Meta διαπίστωσε ότι τα μεγάλα γλωσσικά μοντέλα συχνά υποδηλώνουν ευάλωτο κώδικα, υπογραμμίζοντας τη σημασία των συνεχών δοκιμών και βελτιώσεων για την ασφάλεια της Τεχνητής Νοημοσύνης.

Το Llama Guard είναι ένα άλλο κιτ εργαλείων – ένα μεγάλο γλωσσικό μοντέλο εκπαιδευμένο να αναγνωρίζει δυνητικά επιβλαβή ή προσβλητική γλώσσα.

Οι προγραμματιστές μπορούν να χρησιμοποιήσουν το Llama Guard για να ελέγξουν εάν το μοντέλο τους δημιουργεί ή δέχεται μη ασφαλές περιεχόμενο, βοηθώντας στο φιλτράρισμα μηνυμάτων που θα μπορούσαν να οδηγήσουν σε ακατάλληλο αποτέλεσμα.

(σύμφωνα με την IFW)

Επενδύει σε μεγάλο βαθμό στην Τεχνητή Νοημοσύνη, λανσάροντας πέντε νέα κβαντικά έργα.

Θα επενδύσει σημαντικά στην ανάπτυξη κβαντικών υπολογιστών μεγάλης κλίμακας και στην υποστήριξη νέων τεχνολογιών, συμπεριλαμβανομένης της κατασκευής του πιο ισχυρού υπερυπολογιστή τεχνητής νοημοσύνης της χώρας, του Isambard.

Η ζώνη GUIDi AI αντικαθιστά τα μπαστούνια για άτομα με προβλήματα όρασης.

Εφαρμόζοντας τεχνολογία τεχνητής νοημοσύνης, αυτή η ζώνη υψηλής τεχνολογίας θα γίνει σύντροφος για άτομα με προβλήματα όρασης, αντικαθιστώντας τα δυσκίνητα μπαστούνια.

Η συμμαχία τεχνητής νοημοσύνης ανοιχτού κώδικα των τεχνολογικών γιγάντων θα ανταγωνιστεί την OpenAI.

Οι Meta, IBM, Intel, Sony, Dell και άλλες εταιρείες τεχνολογίας ανακοίνωσαν πρόσφατα τη δημιουργία της Συμμαχίας Τεχνητής Νοημοσύνης Ανοιχτού Κώδικα για την ανάπτυξη υπεύθυνης τεχνολογίας, με έμφαση στα μέτρα ασφαλείας.

Μια μοναδική προσέγγιση στην ανάπτυξη chatbot τεχνητής νοημοσύνης στην Κίνα.

Εκμεταλλευόμενες την ανεκμετάλλευτη αγορά από την OpenAI και την Google, οι κινεζικές εταιρείες τεχνολογίας αποκομίζουν σημαντικά κέρδη από την τάση εξατομίκευσης στην ανάπτυξη chatbot με τεχνητή νοημοσύνη.

Πηγή: https://vietnamnet.vn/meta-moi-phat-hanh-bo-cong-cu-nguon-mo-bao-dam-an-toan-ai-2225140.html