Το νέο μοντέλο της OpenAI αυξάνει τον κίνδυνο δημιουργίας βιολογικών όπλων

Η ικανότητα του μοντέλου να συλλογίζεται, να λύνει σύνθετα μαθηματικά προβλήματα και να απαντά σε επιστημονικά ερευνητικά ερωτήματα θεωρείται ένα σημαντικό βήμα προς τα εμπρός στην προσπάθεια ανάπτυξης τεχνητής γενικής νοημοσύνης (AGI) - μηχανών με ανθρώπινες γνωστικές ικανότητες.

Η OpenAI δήλωσε ότι ήταν ιδιαίτερα «επιφυλακτική» σχετικά με τον τρόπο με τον οποίο έφερε το μοντέλο o1 στο κοινό, δεδομένων των προηγμένων δυνατοτήτων του. Φωτογραφία: Getty Images

Σύμφωνα με τους Financial Times, η OpenAI αξιολόγησε τον κίνδυνο αυτών των νέων μοντέλων ως «μέτριο» για ζητήματα που σχετίζονται με χημικά, βιολογικά, ραδιολογικά και πυρηνικά (ΧΒΡΠ) όπλα, το υψηλότερο που έχει αξιολογήσει ποτέ η εταιρεία. Αυτό σημαίνει ότι η τεχνολογία έχει «βελτιώσει σημαντικά» την ικανότητα των ειδικών να δημιουργούν βιολογικά όπλα.

Το λογισμικό τεχνητής νοημοσύνης που είναι ικανό για λεπτομερή συλλογισμό, ειδικά στα χέρια κακοποιών, μπορεί να αυξήσει τον κίνδυνο κατάχρησης, λένε οι ειδικοί.

Ο καθηγητής Yoshua Bengio, κορυφαίος επιστήμονας Τεχνητής Νοημοσύνης από το Πανεπιστήμιο του Μόντρεαλ, τόνισε ότι αυτό το μεσαίο επίπεδο κινδύνου αυξάνει την επείγουσα ανάγκη για κανονισμούς Τεχνητής Νοημοσύνης, όπως ο νόμος SB 1047, που συζητείται επί του παρόντος στην Καλιφόρνια. Αυτό το νομοσχέδιο απαιτεί από τους κατασκευαστές Τεχνητής Νοημοσύνης να λάβουν μέτρα για να μειώσουν τον κίνδυνο κακής χρήσης των μοντέλων τους για την ανάπτυξη βιολογικών όπλων.

Σύμφωνα με το The Verge, η ασφάλεια και η προστασία των μοντέλων τεχνητής νοημοσύνης έχει γίνει μια σημαντική ανησυχία, καθώς εταιρείες τεχνολογίας όπως η Google, η Meta και η Anthropic αγωνίζονται να κατασκευάσουν και να βελτιώσουν προηγμένα συστήματα τεχνητής νοημοσύνης.

Αυτά τα συστήματα έχουν τη δυνατότητα να αποφέρουν μεγάλα οφέλη βοηθώντας τους ανθρώπους να ολοκληρώνουν εργασίες και να βοηθούν σε μια ποικιλία τομέων, αλλά θέτουν επίσης προκλήσεις όσον αφορά την ασφάλεια και την κοινωνική ευθύνη.

Κάο Φονγκ (σύμφωνα με FT, Reuters, The Verge)

Πηγή: https://www.congluan.vn/openai-thua-nhan-moi-hinh-ai-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-post312337.html