Νέα Τεχνητή Νοημοσύνη θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία βιολογικών όπλων.

Το τηλέφωνο δείχνει τη διεπαφή για την εκμάθηση του GPT-o1 του OpenAI - Φωτογραφία: FINANCIAL TIMES

Σύμφωνα με τους Financial Times στις 13 Σεπτεμβρίου, η OpenAI παραδέχτηκε ότι το μοντέλο GPT-o1, που κυκλοφόρησε στις 12 Σεπτεμβρίου, αυξάνει «σημαντικά» τον κίνδυνο εκμετάλλευσης της τεχνητής νοημοσύνης (AI) για τη δημιουργία βιολογικών όπλων.

Η τεκμηρίωση της OpenAI που εξηγεί τον τρόπο λειτουργίας του GPT-o1 επιβεβαιώνει ότι το νέο μοντέλο έχει «μέτριο επίπεδο κινδύνου» όσον αφορά ζητήματα που σχετίζονται με χημικά, βιολογικά, ραδιολογικά και πυρηνικά όπλα. Αυτό είναι το υψηλότερο επίπεδο κινδύνου που έχει αναθέσει ποτέ η OpenAI στα μοντέλα τεχνητής νοημοσύνης της.

Σύμφωνα με την OpenAI, αυτό σημαίνει ότι το GPT-o1 θα μπορούσε να «βελτιώσει σημαντικά» την ικανότητα των ειδικών να κατασκευάζουν βιολογικά όπλα για κακή χρήση.

Η Mira Murati, Chief Technology Officer (CTO) της OpenAI, δήλωσε ότι παρόλο που το GPT-o1 βρίσκεται ακόμη σε φάση δοκιμών, οι προηγμένες δυνατότητες αυτού του μοντέλου απαιτούν από την εταιρεία να είναι εξαιρετικά «προσεκτική» σχετικά με τον οδικό χάρτη για την κυκλοφορία του στο κοινό.

Η κα Murati υποστήριξε επίσης ότι το μοντέλο είχε δοκιμαστεί διεξοδικά από μια διεπιστημονική ομάδα εμπειρογνωμόνων. Αυτά τα άτομα προσλήφθηκαν από την OpenAI για να εξετάσουν τους περιορισμούς του μοντέλου που ανέπτυξε η εταιρεία.

Η διαδικασία δοκιμών έδειξε ότι το μοντέλο GPT-o1 πληρούσε τα γενικά κριτήρια ασφαλείας πολύ καλύτερα από τους προκατόχους του, ανέφερε ο Murati.

Επιπλέον, οι εκπρόσωποι της OpenAI διαβεβαίωσαν ότι η δοκιμαστική έκδοση του GPT-o1 είναι «ασφαλής για ανάπτυξη» και δεν μπορεί να δημιουργήσει κινδύνους πιο σύνθετους από τις ήδη ανεπτυγμένες τεχνολογίες.

Παρά τις διαβεβαιώσεις αυτές, ένα μεγάλο μέρος της επιστημονικής κοινότητας και των λάτρεις της Τεχνητής Νοημοσύνης παραμένουν σε μεγάλο βαθμό απαισιόδοξοι για το μέλλον αυτής της τεχνολογίας.

Οι ανησυχίες σχετικά με την υπερβολικά γρήγορη ανάπτυξη της Τεχνητής Νοημοσύνης και την ταχύτητά της σε σχέση με την ανάπτυξη και την έγκριση των κανονισμών που τη διέπουν αυξάνονται.

Ο καθηγητής Γιόσουα Μπέντζιο, ειδικός στην επιστήμη των υπολογιστών στο Πανεπιστήμιο του Μόντρεαλ και ένας από τους κορυφαίους επιστήμονες τεχνητής νοημοσύνης στον κόσμο , δήλωσε ότι εάν η OpenAI ενέχει επί του παρόντος «μέτριο κίνδυνο» χημικών και βιολογικών όπλων, τότε «αυτό ενισχύει μόνο τη σημασία και τον επείγοντα χαρακτήρα» των κανονισμών, όπως το έντονα συζητημένο νομοσχέδιο στην Καλιφόρνια, για τη ρύθμιση αυτού του τομέα.

Αυτός ο επιστήμονας τόνισε ότι αυτοί οι θεσμοί είναι ιδιαίτερα απαραίτητοι στο πλαίσιο της Τεχνητής Νοημοσύνης που πλησιάζει ολοένα και περισσότερο το επίπεδο της καθολικής τεχνητής νοημοσύνης (AGI), η οποία είναι η ικανότητα συλλογισμού ισότιμη με τους ανθρώπους.

«Όσο πιο κοντά πλησιάζουν τα πρωτοποριακά μοντέλα Τεχνητής Νοημοσύνης στην Τεχνητή Νοημοσύνη (AGI), τόσο μεγαλύτεροι γίνονται οι κίνδυνοι εάν δεν ληφθούν τα κατάλληλα μέτρα προφύλαξης. Η βελτίωση των ικανοτήτων συλλογισμού της Τεχνητής Νοημοσύνης και η πιθανή χρήση της για απάτη είναι εξαιρετικά επικίνδυνη», εκτίμησε ο Μπέντζιο.

Πηγή: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm