Έρευνα και ανάπτυξη υπεύθυνων συστημάτων τεχνητής νοημοσύνης.

Σύμφωνα με το Υπουργείο Επιστήμης και Τεχνολογίας , ακολουθώντας τη γενική τάση στον κόσμο, τα συστήματα τεχνητής νοημοσύνης αξιολογούνται ως προς το ότι αποφέρουν μεγάλα οφέλη στους ανθρώπους, την κοινωνία και την οικονομία του Βιετνάμ, υποστηρίζοντας και επιλύοντας δύσκολα προβλήματα που αντιμετωπίζουν οι άνθρωποι και οι κοινότητες. Παράλληλα με αυτή τη διαδικασία, είναι απαραίτητο να διερευνηθούν και να ληφθούν μέτρα για την ελαχιστοποίηση των κινδύνων στη διαδικασία ανάπτυξης και χρήσης τεχνητής νοημοσύνης και να εξισορροπηθούν οι σχετικοί οικονομικοί, ηθικοί και νομικοί παράγοντες. Ως εκ τούτου, οι εξειδικευμένοι φορείς πρέπει να διερευνήσουν και να αναπτύξουν πρότυπα και κατευθυντήριες γραμμές για να καθοδηγήσουν, ακόμη και αν πρόκειται για ήπιους και μη δεσμευτικούς κανονισμούς.

Στις κατευθυντήριες γραμμές, το Υπουργείο Επιστήμης και Τεχνολογίας καθορίζει εννέα αρχές στην έρευνα και ανάπτυξη υπεύθυνων συστημάτων τεχνητής νοημοσύνης.

Πρώτον, το πνεύμα συνεργασίας και προώθησης της καινοτομίας: Οι προγραμματιστές πρέπει να λάβουν υπόψη τη συνδεσιμότητα και τη διαλειτουργικότητα μεταξύ των συστημάτων Τεχνητής Νοημοσύνης τους και άλλων συστημάτων Τεχνητής Νοημοσύνης, λαμβάνοντας υπόψη την ποικιλομορφία των συστημάτων, ώστε να ενισχύσουν τα οφέλη του συστήματος, ενισχύοντας παράλληλα τον συντονισμό για τον έλεγχο των κινδύνων.

Δεύτερον, διαφάνεια: Τα συστήματα τεχνητής νοημοσύνης που συμμορφώνονται με αυτήν την αρχή είναι συχνά συστήματα που μπορούν να επηρεάσουν τη ζωή, το σώμα, την ιδιωτικότητα ή την περιουσία των χρηστών ή σχετικών τρίτων. Σε αυτήν την περίπτωση, οι προγραμματιστές πρέπει να δώσουν προσοχή στην ικανότητα σαφούς προσδιορισμού των εισροών και των εξόδων του συστήματος, καθώς και στη σχετική επεξήγηση με βάση τα χαρακτηριστικά της εφαρμοζόμενης τεχνολογίας και τον τρόπο με τον οποίο χρησιμοποιούνται για να διασφαλιστεί η εμπιστοσύνη της κοινωνίας, συμπεριλαμβανομένων των χρηστών.

Τρίτον, ελεγξιμότητα: Για την αξιολόγηση των κινδύνων που σχετίζονται με την ελεγξιμότητα του συστήματος, οι προγραμματιστές πρέπει να διενεργήσουν μια προκαταρκτική αξιολόγηση του κατά πόσον το σύστημα πληροί τις σχετικές τεχνικές απαιτήσεις και πρότυπα. Μία από τις μεθόδους αξιολόγησης κινδύνου είναι η δοκιμή σε ξεχωριστό χώρο με μέτρα ασφαλείας πριν από την πρακτική εφαρμογή του.

Τέταρτον, η αρχή της ασφάλειας: Οι προγραμματιστές πρέπει να διασφαλίζουν ότι το σύστημα τεχνητής νοημοσύνης δεν θα προκαλέσει βλάβη στη ζωή, το σώμα ή την περιουσία των χρηστών ή τρίτων, συμπεριλαμβανομένων των μεσαζόντων.

5. Αρχές ασφάλειας: Εκτός από τη συμμόρφωση με τα έγγραφα, τις οδηγίες και την εφαρμογή μέτρων ασφάλειας πληροφοριών όπως προδιαγράφονται, οι προγραμματιστές πρέπει να δώσουν προσοχή σε σημεία όπως: Αξιοπιστία και αντοχή σε φυσικές επιθέσεις ή ατυχήματα του συστήματος· εμπιστευτικότητα· ακεραιότητα· και διαθεσιμότητα των απαραίτητων πληροφοριών που σχετίζονται με την ασφάλεια πληροφοριών του συστήματος...

6. Ιδιωτικότητα: Οι προγραμματιστές πρέπει να διασφαλίζουν ότι τα συστήματα Τεχνητής Νοημοσύνης δεν παραβιάζουν την ιδιωτικότητα των χρηστών ή τρίτων. Η ιδιωτικότητα περιλαμβάνει την ιδιωτικότητα του χώρου (ηρεμία στην προσωπική ζωή), την ιδιωτικότητα των πληροφοριών (προσωπικά δεδομένα) και την εμπιστευτικότητα των επικοινωνιών. Οι προγραμματιστές πρέπει να εφαρμόζουν τους ισχύοντες κανονισμούς και οδηγίες. Μπορείτε να συμβουλευτείτε τα διεθνή πρότυπα και τις οδηγίες σχετικά με την ιδιωτικότητα.

Οι προγραμματιστές θα πρέπει να διενεργούν προαξιολόγηση των κινδύνων για την προστασία της ιδιωτικής ζωής και να διενεργούν προαξιολόγηση των επιπτώσεων στην ιδιωτικότητα. Στο μέτρο του δυνατού, να λαμβάνουν μέτρα κατάλληλα για τα χαρακτηριστικά της τεχνολογίας που εφαρμόζεται καθ' όλη τη διαδικασία ανάπτυξης του συστήματος, ώστε να αποφεύγεται η παραβίαση της ιδιωτικής ζωής κατά τη χρήση της.

Έβδομον, σεβασμός των ανθρωπίνων δικαιωμάτων και της αξιοπρέπειας: Κατά την ανάπτυξη συστημάτων τεχνητής νοημοσύνης που περιλαμβάνουν ανθρώπους, οι προγραμματιστές πρέπει να λαμβάνουν ιδιαίτερη μέριμνα για τον σεβασμό των ανθρωπίνων δικαιωμάτων και της αξιοπρέπειας των εμπλεκόμενων ατόμων. Στο μέτρο του δυνατού, ανάλογα με τα χαρακτηριστικά της εφαρμοζόμενης τεχνολογίας, οι προγραμματιστές θα πρέπει να λαμβάνουν μέτρα για να διασφαλίσουν ότι δεν προκαλούν διακρίσεις ή αδικίες λόγω μεροληψίας στα δεδομένα κατά την εκπαίδευση του συστήματος.

Οι προγραμματιστές πρέπει να λάβουν προφυλάξεις για να διασφαλίσουν ότι το σύστημα δεν παραβιάζει τις ανθρώπινες αξίες και την κοινωνική ηθική σύμφωνα με τις βασικές αρχές του Βιετνάμ (για παράδειγμα, αξίες όπως ο πατριωτισμός, η αλληλεγγύη, η αυτοδυναμία, η αφοσίωση, η ειλικρίνεια, η υπευθυνότητα, η πειθαρχία, η δημιουργικότητα κ.λπ.).

8ο, υποστήριξη χρηστών: Για την υποστήριξη των χρηστών, οι προγραμματιστές συστημάτων πρέπει να δώσουν προσοχή σε σημεία όπως: Δημιουργία έτοιμων διεπαφών για την παροχή έγκαιρων και κατάλληλων πληροφοριών που θα βοηθήσουν τους χρήστες να λαμβάνουν αποφάσεις και να χρησιμοποιούν εύκολα· εφαρμογή μέτρων για την ευκολότερη χρήση του συστήματος από ευάλωτα άτομα στην κοινωνία (ηλικιωμένους, άτομα με αναπηρία)...

9. Λογοδοσία: Οι προγραμματιστές πρέπει να είναι υπόλογοι για τα συστήματα που αναπτύσσουν, ώστε να διασφαλίζεται η εμπιστοσύνη των χρηστών. Συγκεκριμένα, πρέπει να παρέχουν στους χρήστες πληροφορίες που θα τους βοηθήσουν να επιλέξουν και να χρησιμοποιήσουν το σύστημα. Επιπλέον, για να αυξηθεί η κοινωνική αποδοχή των συστημάτων, οι προγραμματιστές θα πρέπει να κάνουν περισσότερα: Να παρέχουν στους χρήστες πληροφορίες και περιγραφές των τεχνικών προδιαγραφών των συστημάτων που αναπτύσσουν, αλγορίθμων, μηχανισμών ασφαλείας κ.λπ.· να ακούν τις απόψεις και να διεξάγουν διάλογο με τα ενδιαφερόμενα μέρη.

Πηγή: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html