Εύρεση προτύπων ασφαλείας για την τεχνητή νοημοσύνη

[διαφήμιση_1]

SGGP 31 Ιουλίου 2023 09:35

Αφού η Ευρώπη ξεκίνησε τη σύνταξη και σύντομα δημοσίευσε τον πρώτο νόμο στον κόσμο για την τεχνητή νοημοσύνη (ΤΝ), οι τέσσερις κορυφαίοι αμερικανικοί γίγαντες της εξόρυξης δεδομένων στο διαδίκτυο μόλις ίδρυσαν μια ομάδα που ονομάζεται Frontier Model Forum.

Ο βασικός στόχος του Frontier Model Forum είναι η υπεύθυνη προώθηση της Τεχνητής Νοημοσύνης. Φωτογραφία: THINKWITHNICHE

Τα κόμματα έρχονται πιο κοντά

Η ομάδα, η οποία περιλαμβάνει τις Anthropic, Google, Microsoft και OpenAI, ιδιοκτήτρια του ChatGPT, δήλωσε ότι οι βασικοί στόχοι του Frontier Model Forum είναι να βοηθήσει στη μείωση των κινδύνων που θέτουν οι πλατφόρμες Τεχνητής Νοημοσύνης και να αναπτύξει βιομηχανικά πρότυπα. Το Frontier Model Forum θα δημιουργήσει ένα νέο φόρουμ με τους ακόλουθους κύριους στόχους: Προώθηση της έρευνας για την ασφάλεια της Τεχνητής Νοημοσύνης για την υποστήριξη της ανάπτυξης, τον μετριασμό των κινδύνων και την τυποποίηση των αξιολογήσεων και των επιπέδων ασφάλειας· προσδιορισμός βέλτιστων πρακτικών για την ανάπτυξη και την ανάπτυξη μοντέλων· βοήθεια στο κοινό να κατανοήσει τη φύση, τις δυνατότητες, τους περιορισμούς και τις επιπτώσεις της τεχνολογίας· και συνεργασία με τους υπεύθυνους χάραξης πολιτικής, τους ακαδημαϊκούς, την κοινωνία των πολιτών και τις εταιρείες για την ανταλλαγή γνώσεων σχετικά με τους κινδύνους και την ασφάλεια.

Οι τεχνολογικοί γίγαντες παραδοσιακά αντιστέκονταν στην αυξημένη ρύθμιση, αλλά αυτή τη φορά, ο τεχνολογικός κλάδος έχει γενικά αλλάξει τη στάση του σχετικά με τις αυξανόμενες ανησυχίες σχετικά με τους κινδύνους που θέτει η Τεχνητή Νοημοσύνη. Οι εταιρείες που συμμετέχουν στην πρωτοβουλία Frontier Model Forum έχουν δεσμευτεί να μοιράζονται βέλτιστες πρακτικές μεταξύ των εταιρειών και να δημοσιοποιούν τις πληροφορίες στις κυβερνήσεις και την κοινωνία των πολιτών.

Συγκεκριμένα, το Frontier Model Forum θα επικεντρωθεί σε μεγάλης κλίμακας, αλλά ακόμη σε αρχικό στάδιο, πλατφόρμες μηχανικής μάθησης που οδηγούν την Τεχνητή Νοημοσύνη σε νέα επίπεδα πολυπλοκότητας - κάτι που αποτελεί επίσης έναν πιθανό παράγοντα κινδύνου. Επιπλέον, το Frontier Model Forum θα υποστηρίξει επίσης την ανάπτυξη εφαρμογών που αντιμετωπίζουν σημαντικές κοινωνικές προκλήσεις, όπως: ο μετριασμός και η προσαρμογή στην κλιματική αλλαγή, η έγκαιρη ανίχνευση και πρόληψη του καρκίνου και η αντιμετώπιση των κυβερνοαπειλών.

Χώρος για πιθανή καταστροφή

Η ανακοίνωση του Frontier Model Forum από αμερικανικές εταιρείες έρχεται λίγες ημέρες αφότου οι Αμερικανοί γερουσιαστές στις 25 Ιουλίου προειδοποίησαν για τον κίνδυνο χρήσης της Τεχνητής Νοημοσύνης για βιολογικές επιθέσεις σε ακρόαση ενώπιον υποεπιτροπής της Επιτροπής Δικαιοσύνης της Γερουσίας των ΗΠΑ. Πρόσφατα, επτά μεγάλες εταιρείες τεχνολογίας, συμπεριλαμβανομένων των OpenAI, Alphabet και Meta, δεσμεύτηκαν οικειοθελώς ενώπιον του Λευκού Οίκου να αναπτύξουν ένα σύστημα για την αναγνώριση όλου του περιεχομένου, από κείμενο, εικόνες, ήχο έως βίντεο, που δημιουργείται από την Τεχνητή Νοημοσύνη, για να διασφαλιστεί η διαφάνεια για τους χρήστες, προκειμένου να διασφαλιστεί ότι αυτή η τεχνολογία είναι ασφαλέστερη.

Ο Ντάριο Αμοντέι, Διευθύνων Σύμβουλος της AI Anthropic, σημείωσε ότι ενώ η Τεχνητή Νοημοσύνη δεν είναι ακόμη ικανή να δημιουργήσει βιολογικά όπλα, αποτελεί «μεσοπρόθεσμο» κίνδυνο και αποτελεί σοβαρή απειλή για την εθνική ασφάλεια των ΗΠΑ τα επόμενα δύο ή τρία χρόνια. Ο λόγος είναι ότι τα υποκείμενα που πραγματοποιούν επιθέσεις μεγάλης κλίμακας με βιολογικά όπλα δεν περιορίζονται πλέον σε όσους έχουν εξειδικευμένες γνώσεις σε αυτό το θέμα.

Ο κόσμος αντιμετωπίζει μια έκρηξη περιεχομένου που δημιουργείται από την τεχνολογία γενετικής τεχνητής νοημοσύνης. Από τις ΗΠΑ, την Ευρώπη έως την Ασία, οι έλεγχοι σταδιακά αυστηροποιούνται. Σύμφωνα με το CNN, ξεκινώντας από τον Σεπτέμβριο, η Γερουσία των ΗΠΑ θα πραγματοποιήσει μια σειρά εννέα επιπλέον εργαστηρίων για τα μέλη, ώστε να μάθουν πώς η τεχνητή νοημοσύνη μπορεί να επηρεάσει τις θέσεις εργασίας, την εθνική ασφάλεια και την πνευματική ιδιοκτησία. Πριν από τις ΗΠΑ, εάν επιτευχθεί συμφωνία, η Ευρωπαϊκή Ένωση θα έχει τον πρώτο νόμο στον κόσμο για τη διαχείριση της τεχνητής νοημοσύνης τον επόμενο χρόνο, ο οποίος αναμένεται να τεθεί σε ισχύ από το 2026.

Τα οφέλη που προσφέρει η Τεχνητή Νοημοσύνη στην κοινωνία είναι αναμφισβήτητα, αλλά υπάρχουν αυξανόμενες προειδοποιήσεις σχετικά με τους πιθανούς κινδύνους αυτής της νέας τεχνολογίας. Τον Ιούνιο, ο Γενικός Γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες, υποστήριξε μια πρόταση αρκετών στελεχών της Τεχνητής Νοημοσύνης για τη δημιουργία ενός διεθνούς εποπτικού φορέα για την Τεχνητή Νοημοσύνη, παρόμοιου με τον Διεθνή Οργανισμό Ατομικής Ενέργειας (ΔΟΑΕ).

Πίσω στο Frontier Model Forum, ο Πρόεδρος της Microsoft, Μπραντ Σμιθ, δήλωσε ότι η πρωτοβουλία αποτελεί ένα σημαντικό βήμα για την προσέγγιση των εταιρειών τεχνολογίας με στόχο την προώθηση της υπεύθυνης χρήσης της Τεχνητής Νοημοσύνης προς όφελος ολόκληρης της ανθρωπότητας. Ομοίως, η Αντιπρόεδρος Παγκόσμιων Υποθέσεων της OpenAI, Άννα Μακάντζου, δήλωσε ότι η προηγμένη τεχνολογία Τεχνητής Νοημοσύνης έχει τη δυνατότητα να αποφέρει βαθιά οφέλη στην κοινωνία και αυτό απαιτεί εποπτεία και διακυβέρνηση.

[διαφήμιση_2]
Πηγή