Η τεχνητή νοημοσύνη εφαρμόζεται ολοένα και περισσότερο για τη βελτιστοποίηση αποφάσεων σε κρίσιμα περιβάλλοντα. Για παράδειγμα, ένα αυτόνομο σύστημα μπορεί να προτείνει το πιο οικονομικό σχέδιο διανομής ισχύος διατηρώντας παράλληλα τη σταθερότητα της τάσης.
Ωστόσο, είναι μια «τεχνικά βέλτιστη» λύση πραγματικά δίκαιη; Τι συμβαίνει εάν μια στρατηγική χαμηλού κόστους καθιστά τις περιοχές χαμηλού εισοδήματος πιο ευάλωτες σε διακοπές ρεύματος από ό,τι τις πλουσιότερες περιοχές;
Για να βοηθήσει τα ενδιαφερόμενα μέρη να εντοπίσουν ηθικούς κινδύνους νωρίς πριν από την εφαρμογή, η ερευνητική ομάδα του MIT ανέπτυξε μια αυτοματοποιημένη μέθοδο αξιολόγησης που εξισορροπεί ποσοτικούς δείκτες (όπως το κόστος και η αξιοπιστία) με ποιοτικές τιμές (όπως η δικαιοσύνη).
Αυτό το σύστημα διαχωρίζει την αντικειμενική αξιολόγηση από τις ανθρώπινες αξίες που ορίζονται από τον χρήστη και χρησιμοποιεί ένα μεγάλο γλωσσικό μοντέλο (LLM) ως ανθρώπινο «εκπρόσωπο» για την καταγραφή και ενσωμάτωση των προτεραιοτήτων των ενδιαφερόμενων μερών.
Το προσαρμοστικό πλαίσιο αξιολόγησης θα επιλέξει τα πιο σημαντικά σενάρια για περαιτέρω ανάλυση, απλοποιώντας μια διαδικασία που θα ήταν δαπανηρή και χρονοβόρα εάν γινόταν χειροκίνητα. Αυτά τα σενάρια μπορούν να υποδείξουν πότε ένα σύστημα Τεχνητής Νοημοσύνης ευθυγραμμίζεται με τις ανθρώπινες αξίες, καθώς και πότε δεν πληροί τα ηθικά κριτήρια.
Σύμφωνα με τον Chuchu Fan (MIT), ο απλός καθορισμός κανόνων ή «φραγμών ασφαλείας» για την Τεχνητή Νοημοσύνη δεν επαρκεί, καθώς αυτοί αποτρέπουν μόνο κινδύνους που μπορούν να προβλέψουν οι άνθρωποι. Επομένως, απαιτείται μια συστηματική προσέγγιση για την ανίχνευση «άγνωστων κινδύνων» προτού προκαλέσουν συνέπειες.
Ηθική αξιολόγηση σε πολύπλοκα συστήματα
Σε μεγάλα συστήματα όπως τα δίκτυα ηλεκτρικής ενέργειας, η αξιολόγηση της ηθικής καταλληλότητας των προτάσεων που παράγονται από την Τεχνητή Νοημοσύνη είναι δύσκολη, ειδικά όταν πρέπει να ληφθούν υπόψη πολλαπλοί στόχοι ταυτόχρονα.
Οι τρέχουσες μέθοδοι συχνά βασίζονται σε άμεσα διαθέσιμα δεδομένα, αλλά τα δεδομένα που χαρακτηρίζονται σύμφωνα με ηθικά κριτήρια είναι σπάνια. Ταυτόχρονα, οι ηθικές αξίες και τα συστήματα τεχνητής νοημοσύνης αλλάζουν συνεχώς, καθιστώντας γρήγορα παρωχημένες τις στατικές μεθόδους αξιολόγησης.
Η ερευνητική ομάδα ανέπτυξε ένα πειραματικό πλαίσιο σχεδιασμού που ονομάζεται SEED-SET, το οποίο αποτελείται από δύο μέρη:
- Αντικειμενικό μοντέλο: αξιολογεί την απόδοση με βάση μετρήσιμους δείκτες (όπως το κόστος)
- Υποκειμενικό μοντέλο: αντανακλά την ανθρώπινη κρίση (όπως τα αισθήματα δικαιοσύνης)
Αυτή η προσέγγιση επιτρέπει τον εντοπισμό σεναρίων που πληρούν τόσο τεχνικά κριτήρια όσο και ανθρώπινες αξίες ή αντίστροφα.
Συγκεκριμένα, το SEED-SET δεν απαιτεί προϋπάρχοντα δεδομένα αξιολόγησης και μπορεί να προσαρμοστεί σε ένα ευρύ φάσμα στόχων. Για παράδειγμα, σε ένα σύστημα ηλεκτρικής ενέργειας, διαφορετικές ομάδες χρηστών (όπως αγροτικές κοινότητες και κέντρα δεδομένων) μπορεί να έχουν διαφορετικές ηθικές προτεραιότητες, παρά το γεγονός ότι και οι δύο επιθυμούν οικονομικά προσιτή και σταθερή ηλεκτρική ενέργεια.
Μοντελοποίηση υποκειμενικών παραγόντων
Για την αξιολόγηση υποκειμενικών παραγόντων, το σύστημα χρησιμοποιεί το LLM ως εκπρόσωπο του αξιολογητή. Οι προτιμήσεις κάθε ομάδας κωδικοποιούνται σε δηλώσεις φυσικής γλώσσας.
Το LLM θα συγκρίνει σενάρια και θα επιλέξει την καταλληλότερη επιλογή με βάση ηθικά κριτήρια. Αυτή η προσέγγιση βοηθά στην αποφυγή της ανθρώπινης κόπωσης και της ασυνέπειας κατά την αξιολόγηση εκατοντάδων ή χιλιάδων σεναρίων.
Το SEED-SET στη συνέχεια χρησιμοποιεί τα επιλεγμένα σενάρια για να προσομοιώσει το σύστημα (π.χ., στρατηγική κατανομής ισχύος) και συνεχίζει την αναζήτηση νέων σεναρίων με υψηλότερη τιμή αξιολόγησης.
Το τελικό αποτέλεσμα είναι ένα σύνολο τυπικών σεναρίων, που επιτρέπει στους χρήστες να αναλύσουν την απόδοση του συστήματος Τεχνητής Νοημοσύνης και να προσαρμόσουν τη στρατηγική τους ανάλογα με τις ανάγκες.
Για παράδειγμα, το σύστημα θα μπορούσε να ανιχνεύσει περιπτώσεις όπου η διανομή ηλεκτρικής ενέργειας δίνει προτεραιότητα σε περιοχές υψηλού εισοδήματος κατά τις ώρες αιχμής, καθιστώντας τις μειονεκτούσες περιοχές πιο ευάλωτες σε διακοπές ρεύματος.
Αποτελεσματικότητα και μελλοντική ανάπτυξη
Όταν δοκιμάζεται σε πραγματικά συστήματα, όπως τα έξυπνα δίκτυα ή η διαχείριση της αστικής κυκλοφορίας, το SEED-SET παράγει διπλάσια βέλτιστα σενάρια από τις παραδοσιακές μεθόδους, ενώ παράλληλα ανιχνεύει περισσότερες καταστάσεις που άλλες μέθοδοι παραβλέπουν.
Αξίζει να σημειωθεί ότι, όταν αλλάζουν οι προτιμήσεις των χρηστών, τα σενάρια που δημιουργούνται από το σύστημα αλλάζουν επίσης σημαντικά, καταδεικνύοντας υψηλό βαθμό προσαρμοστικότητας στις ανθρώπινες αξίες.
Στο μέλλον, η ερευνητική ομάδα σχεδιάζει να διεξάγει μελέτες με πραγματικούς χρήστες για να αξιολογήσει τη χρησιμότητα του συστήματος στη διαδικασία λήψης αποφάσεων. Ταυτόχρονα, στοχεύουν στην επέκταση της μεθοδολογίας σε πιο σύνθετα προβλήματα, όπως η αξιολόγηση των αποφάσεων μεγαλύτερων γλωσσικών μοντέλων.
Αυτή η έρευνα χρηματοδοτήθηκε εν μέρει από την Υπηρεσία Προηγμένων Ερευνητικών Προγραμμάτων Άμυνας των ΗΠΑ (DARPA).
(Σύμφωνα με το MIT News)
Πηγή: https://vietnamnet.vn/danh-gia-dao-duc-cua-cac-he-thong-tu-hanh-2508477.html
Σχόλιο (0)