Φωτογραφία 8_Audrey Lorvo.jpg
Η Audrey Lorvo είναι τελειόφοιτη στην Επιστήμη Υπολογιστών, τα Οικονομικά και την Επιστήμη Δεδομένων και υπότροφος Κοινωνικής Ευθύνης και Ηθικής στην Πληροφορική (SERC). Φωτογραφία: MIT

Έρευνα για την ασφάλεια στην τεχνητή νοημοσύνη - ένας σημαντικός τομέας

Η Audrey Lorvo ερευνά αυτήν την περίοδο την ασφάλεια της Τεχνητής Νοημοσύνης, έναν τομέα που στοχεύει να διασφαλίσει ότι τα ολοένα και πιο έξυπνα μοντέλα τεχνητής νοημοσύνης παραμένουν αξιόπιστα και ωφέλιμα για την ανθρωπότητα. Ο τομέας επικεντρώνεται σε τεχνικές προκλήσεις όπως η ανοχή σφαλμάτων και η ευθυγράμμιση της Τεχνητής Νοημοσύνης με τις ανθρώπινες αξίες, ενώ παράλληλα αντιμετωπίζει κοινωνικά ζητήματα όπως η διαφάνεια και η λογοδοσία. Οι ειδικοί ανησυχούν επίσης για τους υπαρξιακούς κινδύνους της ολοένα και πιο ισχυρής Τεχνητής Νοημοσύνης.

«Η διασφάλιση ότι η Τεχνητή Νοημοσύνη δεν θα χρησιμοποιείται κατά λάθος ή δεν θα λειτουργεί αντίθετα με την ανθρώπινη πρόθεση είναι ολοένα και πιο σημαντική, ειδικά καθώς πλησιάζουμε στην Τεχνητή Γενική Νοημοσύνη (AGI)», μοιράστηκε ο Lorvo.

Η Lorvo, υπότροφος του προγράμματος Κοινωνικά και Ηθικά Υπεύθυνης Υπολογιστικής (SERC) στο Ινστιτούτο Υπολογιστικής Schwarzman του MIT, ενδιαφέρεται για το πώς η Τεχνητή Νοημοσύνη μπορεί να αυτοματοποιήσει τις διαδικασίες έρευνας και ανάπτυξης της Τεχνητής Νοημοσύνης. «Πρέπει να κάνουμε ό,τι μπορούμε για να αναπτύξουμε την Τεχνητή Νοημοσύνη με ασφάλεια», τόνισε, εφιστώντας την προσοχή σε κατάλληλα πλαίσια διακυβέρνησης και στρατηγικές για την αντιμετώπιση των κινδύνων.

Η Lorvo έχει δεσμευτεί να κατανοήσει τις τεχνικές πτυχές της ασφάλειας της Τεχνητής Νοημοσύνης μέσω πρωτοβουλιών όπως η Υποτροφία Μηχανικής Ασφάλειας Τεχνητής Νοημοσύνης, η οποία τη βοηθά να ερευνήσει τρόπους για να καθοδηγήσει την ανάπτυξη της Τεχνητής Νοημοσύνης με τρόπους που ωφελούν την ανθρωπότητα.

«Το πρόγραμμα με βοήθησε να κατανοήσω σε βάθος τα τεχνικά ζητήματα και τις προκλήσεις της ασφάλειας της Τεχνητής Νοημοσύνης, προτείνοντας έτσι πιο αποτελεσματικές στρατηγικές διακυβέρνησης της Τεχνητής Νοημοσύνης», μοιράστηκε.

Σύμφωνα με τον Lorvo, οι πρωτοπόροι της Τεχνητής Νοημοσύνης ωθούν τα τεχνολογικά όρια, απαιτώντας αποτελεσματική εφαρμογή πολιτικών για την ιεράρχηση της ανθρώπινης ασφάλειας χωρίς να παρεμποδίζεται η έρευνα.

Η αξία μιας διεπιστημονικής προσέγγισης

Από τη στιγμή που μπήκε στο MIT, η Lorvo ήθελε να συνδυάσει τις θετικές επιστήμες και τις ανθρωπιστικές επιστήμες. Ωστόσο, η ποικιλομορφία των πεδίων κατάρτισης δυσκόλευε την επιλογή μιας συγκεκριμένης ειδίκευσης.

«Υπάρχουν πολλοί τρόποι για να βελτιωθεί η ποιότητα ζωής και το MIT προσφέρει αμέτρητες δυνατότητες για να τις εξερευνήσετε . Τα μαθήματα οικονομετρίας του καθηγητή Joshua Angrist με βοήθησαν να δω την αξία της οικονομικής έρευνας, ενώ η επιστήμη δεδομένων και η πληροφορική με γοήτευσαν λόγω των αυξανόμενων δυνατοτήτων της Τεχνητής Νοημοσύνης. Μπορούμε να χρησιμοποιήσουμε αυτά τα εργαλεία για να λύσουμε τα πιο πιεστικά μας προβλήματα και να ξεπεράσουμε σοβαρές προκλήσεις», δήλωσε ο Lorvo.

Η Lorvo επέκτεινε επίσης την έρευνά της στον πολεοδομικό σχεδιασμό και τη διεθνή ανάπτυξη. Καθώς εμβάθυνε περισσότερο στον τομέα της, συνειδητοποίησε ότι πολλοί φοιτητές του MIT, ειδικά η ομάδα MIT AI Alignment, συμμερίζονταν τις απόψεις της για την υπεύθυνη τεχνολογία.

Η έννοια του «οριακού αντίκτυπου» περιγράφει τον πρόσθετο αντίκτυπο μιας επένδυσης χρόνου, χρημάτων ή προσπάθειας σε έναν δεδομένο τομέα. Σύμφωνα με τον Lorvo, αυτή η προσέγγιση βοηθά τα άτομα να αποφασίσουν πώς να επενδύσουν τους πόρους τους πιο αποτελεσματικά.

Σε έναν κόσμο περιορισμένων πόρων, υποστηρίζει ο Lorvo, μια προσέγγιση που βασίζεται σε δεδομένα μπορεί να βοηθήσει στην κατανομή των πόρων σε τομείς που είναι πιθανό να αποφέρουν το μεγαλύτερο όφελος. Αν θέλουμε να μεγιστοποιήσουμε τον κοινωνικό αντίκτυπο, είναι σημαντικό να σκεφτούμε τον οριακό αντίκτυπο των επιλογών σταδιοδρομίας.

Φοιτητική Εμπειρία στο MIT

Εκτός από τα ακαδημαϊκά μαθήματα, ο Lorvo συμμετέχει ενεργά σε εξωσχολικές δραστηριότητες για να δημιουργήσει ουσιαστικές εμπειρίες και να συνδεθεί με συμμαθητές.

«Είμαι τυχερός που μπορώ να εξισορροπώ τις σπουδές μου, την έρευνα, τις δραστηριότητες των συλλόγων μου και τα προσωπικά μου ενδιαφέροντα, όπως η προπόνηση με βάρη ή η συμμετοχή σε εξωσχολικές πρωτοβουλίες. Το MIT έχει πάντα πολλούς ενδιαφέροντες συλλόγους και εκδηλώσεις για να εξερευνήσω», είπε ο Lorvo.

Αυτές οι ευκαιρίες όχι μόνο διεύρυναν τους ορίζοντές της, αλλά τη βοήθησαν και να βελτιώσει την επαγγελματική της πορεία. Η Lorvo, η οποία μιλάει άπταιστα γαλλικά, αγγλικά, ισπανικά και πορτογαλικά, εκτίμησε επίσης τα προγράμματα διεθνούς εμπειρίας του MIT.

Η Lorvo, η οποία έκανε πρακτική άσκηση στο Σαντιάγο της Χιλής και στο Παρίσι μέσω του προγράμματος MISTI, συμμετείχε επίσης στη δοκιμή ενός συστήματος συμπύκνωσης ατμού που σχεδίασε η ομάδα της στο πλαίσιο της τάξης D-Lab του 2023, σε συνεργασία με την Πολυτεχνική Σχολή της Μαδαγασκάρης και την ΜΚΟ Tatirano. Αυτές οι εμπειρίες τη βοήθησαν να κατανοήσει πώς να αντιμετωπίσει την οικονομική ανισότητα.

Μετά την αποφοίτησή του, ο Lorvo δήλωσε ότι θέλει να συνεχίσει την έρευνα για την ασφάλεια και τις στρατηγικές διακυβέρνησης της Τεχνητής Νοημοσύνης, ώστε να διασφαλίσει ότι η Τεχνητή Νοημοσύνη αναπτύσσεται με ασφάλεια και αποτελεσματικότητα.

«Η καλή διακυβέρνηση είναι το κλειδί για την επιτυχή ανάπτυξη της Τεχνητής Νοημοσύνης και για να βοηθήσουμε την ανθρωπότητα να αξιοποιήσει το μετασχηματιστικό της δυναμικό. Πρέπει να παρακολουθούμε συνεχώς την ανάπτυξη της Τεχνητής Νοημοσύνης καθώς η τεχνολογία συνεχίζει να εξελίσσεται», υποστήριξε ο Lorvo.

(Σύμφωνα με το MIT News)