Εύρεση προτύπων ασφαλείας για την τεχνητή νοημοσύνη

SGGP 31/07/2023 09:35

Αφού η Ευρώπη ξεκίνησε τη σύνταξη και σύντομα δημοσίευσε τον πρώτο νόμο στον κόσμο για την τεχνητή νοημοσύνη (ΤΝ), οι τέσσερις κορυφαίοι «γίγαντες» της εξόρυξης δεδομένων στο διαδίκτυο των ΗΠΑ μόλις ίδρυσαν μια ομάδα που ονομάζεται Frontier Model Forum.

Ο βασικός στόχος του Frontier Model Forum είναι η προώθηση της υπεύθυνης Τεχνητής Νοημοσύνης. Φωτογραφία: THINKWITHNICHE

Τα κόμματα ενώνονται

Η ομάδα, η οποία περιλαμβάνει τις Anthropic, Google, Microsoft και OpenAI, τον ιδιοκτήτη του ChatGPT, δήλωσε ότι οι βασικοί στόχοι του Frontier Model Forum είναι να βοηθήσει στη μείωση των κινδύνων που θέτουν οι πλατφόρμες Τεχνητής Νοημοσύνης και να αναπτύξει βιομηχανικά πρότυπα. Το Frontier Model Forum θα δημιουργήσει ένα νέο φόρουμ με τους ακόλουθους κύριους στόχους: Προώθηση της έρευνας για την ασφάλεια της Τεχνητής Νοημοσύνης για την υποστήριξη της ανάπτυξης, τη μείωση των κινδύνων και την τυποποίηση των αξιολογήσεων και των επιπέδων ασφάλειας· προσδιορισμός βέλτιστων πρακτικών για την ανάπτυξη και την ανάπτυξη μοντέλων και βοήθεια στο κοινό να κατανοήσει τη φύση, τις δυνατότητες, τους περιορισμούς και τις επιπτώσεις της τεχνολογίας· και συνεργασία με τους υπεύθυνους χάραξης πολιτικής, τους ακαδημαϊκούς, την κοινωνία των πολιτών και τις εταιρείες για την ανταλλαγή γνώσεων σχετικά με τους κινδύνους και την ασφάλεια.

Οι τεχνολογικοί γίγαντες παραδοσιακά αντιστέκονταν στην αυξημένη ρύθμιση, αλλά αυτή τη φορά, ο τεχνολογικός κλάδος έχει αλλάξει σε μεγάλο βαθμό τη στάση του σχετικά με τους κινδύνους που θέτει η Τεχνητή Νοημοσύνη. Οι εταιρείες που συμμετέχουν στην πρωτοβουλία Frontier Model Forum έχουν δεσμευτεί να μοιράζονται βέλτιστες πρακτικές μεταξύ των εταιρειών και να δημοσιοποιούν πληροφορίες στις κυβερνήσεις και την κοινωνία των πολιτών.

Συγκεκριμένα, το Frontier Model Forum θα επικεντρωθεί σε μεγάλης κλίμακας, αλλά σε πρώιμο στάδιο, πλατφόρμες μηχανικής μάθησης που οδηγούν την Τεχνητή Νοημοσύνη σε νέα επίπεδα πολυπλοκότητας - κάτι που αποτελεί επίσης έναν πιθανό παράγοντα κινδύνου. Επιπλέον, το Frontier Model Forum θα υποστηρίξει επίσης την ανάπτυξη εφαρμογών που αντιμετωπίζουν σημαντικές κοινωνικές προκλήσεις, όπως: ο μετριασμός και η προσαρμογή στην κλιματική αλλαγή, η έγκαιρη ανίχνευση και πρόληψη του καρκίνου και η προστασία από κυβερνοαπειλές.

Χώρος για πιθανή καταστροφή

Η ανακοίνωση του Frontier Model Forum από αμερικανικές εταιρείες έρχεται λίγες ημέρες αφότου οι γερουσιαστές των ΗΠΑ στις 25 Ιουλίου προειδοποίησαν για τον κίνδυνο χρήσης της Τεχνητής Νοημοσύνης για βιολογικές επιθέσεις σε ακρόαση ενώπιον υποεπιτροπής της Επιτροπής Δικαιοσύνης της Γερουσίας των ΗΠΑ. Πρόσφατα, επτά μεγάλες εταιρείες τεχνολογίας, συμπεριλαμβανομένων των OpenAI, Alphabet και Meta, δεσμεύτηκαν οικειοθελώς ενώπιον του Λευκού Οίκου να αναπτύξουν ένα σύστημα για την επισήμανση όλου του περιεχομένου, από κείμενο, εικόνες, ήχο έως βίντεο, που δημιουργείται από την Τεχνητή Νοημοσύνη, για να παρέχουν στους χρήστες διαφάνεια πληροφοριών, ώστε να διασφαλιστεί ότι αυτή η τεχνολογία είναι ασφαλέστερη.

Ενώ η Τεχνητή Νοημοσύνη δεν είναι ακόμη ικανή να δημιουργήσει βιολογικά όπλα, αποτελεί έναν «μεσοπρόθεσμο» κίνδυνο που θα μπορούσε να αποτελέσει σοβαρή απειλή για την εθνική ασφάλεια των ΗΠΑ τα επόμενα δύο με τρία χρόνια, σημείωσε ο Ντάριο Αμοντέι, Διευθύνων Σύμβουλος της AI Anthropic. Αυτό συμβαίνει επειδή οι δράστες που πραγματοποιούν βιολογικές επιθέσεις μεγάλης κλίμακας δεν περιορίζονται πλέον σε εκείνους που έχουν εξειδικευμένες γνώσεις στο θέμα.

Ο κόσμος αντιμετωπίζει μια έκρηξη περιεχομένου που δημιουργείται από την τεχνολογία γενετικής τεχνητής νοημοσύνης. Από τις ΗΠΑ έως την Ευρώπη και την Ασία, οι κανονιστικές κινήσεις σταδιακά αυστηροποιούνται. Σύμφωνα με το CNN, ξεκινώντας από τον Σεπτέμβριο, η Γερουσία των ΗΠΑ θα διοργανώσει μια σειρά εννέα επιπλέον εργαστηρίων για τα μέλη, ώστε να μάθουν πώς η τεχνητή νοημοσύνη μπορεί να επηρεάσει τις θέσεις εργασίας, την εθνική ασφάλεια και την πνευματική ιδιοκτησία. Πριν από τις ΗΠΑ, εάν επιτευχθεί συμφωνία, η Ευρωπαϊκή Ένωση θα έχει τον πρώτο νόμο στον κόσμο για τη διαχείριση της τεχνητής νοημοσύνης τον επόμενο χρόνο, ο οποίος αναμένεται να τεθεί σε ισχύ το 2026.

Τα οφέλη που προσφέρει η Τεχνητή Νοημοσύνη στην κοινωνία είναι αναμφισβήτητα, αλλά υπάρχουν αυξανόμενες προειδοποιήσεις σχετικά με τους πιθανούς κινδύνους αυτής της νέας τεχνολογίας. Τον Ιούνιο, ο Γενικός Γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες, υποστήριξε μια πρόταση αρκετών στελεχών της Τεχνητής Νοημοσύνης για τη δημιουργία ενός διεθνούς εποπτικού φορέα για την Τεχνητή Νοημοσύνη, παρόμοιου με τον Διεθνή Οργανισμό Ατομικής Ενέργειας (ΔΟΑΕ).

Πίσω στο Frontier Model Forum, ο Πρόεδρος της Microsoft, Μπραντ Σμιθ, δήλωσε ότι η πρωτοβουλία αποτελεί ένα σημαντικό βήμα για την προσέγγιση των εταιρειών τεχνολογίας με στόχο την προώθηση της υπεύθυνης χρήσης της Τεχνητής Νοημοσύνης προς όφελος ολόκληρης της ανθρωπότητας. Ομοίως, η Αντιπρόεδρος Παγκόσμιων Υποθέσεων της OpenAI, Άννα Μακάντζου, δήλωσε ότι η προηγμένη τεχνολογία Τεχνητής Νοημοσύνης έχει τη δυνατότητα να αποφέρει βαθιά οφέλη στην κοινωνία και αυτό απαιτεί εποπτεία και διακυβέρνηση.

Πηγή: https://www.sggp.org.vn/tim-tieu-chuan-an-toan-cho-tri-tue-nhan-tao-post699667.html