Αναπτύξτε την τεχνολογία, προωθήστε την καινοτομία, αλλά μην αφήσετε τους κινδύνους να ξεφύγουν από τα όρια

Σύμφωνα με τους εκπροσώπους, το σχέδιο νόμου για την Τεχνητή Νοημοσύνη που κατατέθηκε στην Εθνοσυνέλευση δεν είναι απλώς ένας νόμος για την τεχνολογία, αλλά ένας νόμος του μέλλοντος. Ως δέσμευση της Εθνοσυνέλευσης προς τον λαό, πρέπει να αναπτύσσουμε την τεχνολογία αλλά να μην χάνουμε τον έλεγχο· να προωθούμε την καινοτομία αλλά να μην αφήνουμε τους κινδύνους να ξεπεράσουν τις δυνατότητές μας.

Ο Αντιπρόεδρος της Εθνοσυνέλευσης Le Minh Hoan προήδρευσε της συνεδρίασης. Φωτογραφία: Ho Long

Το απόγευμα της 27ης Νοεμβρίου, υπό την καθοδήγηση του Αντιπροέδρου της Εθνοσυνέλευσης Le Minh Hoan, η Εθνοσυνέλευση συζήτησε στην Αίθουσα το σχέδιο νόμου για την Τεχνητή Νοημοσύνη.

Έλλειψη κανονισμών σχετικά με τις αποζημιώσεις και την ασφαλιστική ευθύνη

Όσον αφορά το Άρθρο 20 του σχεδίου νόμου για τον μηχανισμό ελεγχόμενων δοκιμών για την ανάπτυξη της τεχνητής νοημοσύνης, το μέλος της Εθνοσυνέλευσης Hoang Minh Hieu ( Nghe An ) δήλωσε ότι ο κύριος σκοπός του μηχανισμού ελεγχόμενων δοκιμών για την τεχνητή νοημοσύνη (ΤΝ) είναι η άρση των νομικών εμποδίων που εμποδίζουν τα μοντέλα ΤΝ, επιτρέποντας περιορισμένες δοκιμές για τη συλλογή δεδομένων που αποδεικνύουν την αποτελεσματικότητα, προωθώντας έτσι τη μακροπρόθεσμη κανονιστική μεταρρύθμιση. Αυτή η προσέγγιση είναι επίσης πολύ συνεπής με την τρέχουσα νομοθετική μας σκέψη, η οποία είναι ότι τα θεσμικά όργανα πρέπει να προετοιμάσουν πρώτα το έδαφος για την ανάπτυξη.

Μιλάει ο Βουλευτής της Εθνοσυνέλευσης Hoang Minh Hieu (Nghe An). Φωτογραφία: Quang Khanh

Ο εκπρόσωπος τόνισε ότι οι κανονισμοί σχετικά με τους μηχανισμούς ελεγχόμενων δοκιμών πρέπει να αποτελούν το επίκεντρο του νομικού πλαισίου για την Τεχνητή Νοημοσύνη, επομένως η συντακτική υπηρεσία πρέπει να διερευνήσει και να ρυθμίσει αυτό το ζήτημα πιο συγκεκριμένα στο σχέδιο νόμου.

Συνεπώς, ο εκπρόσωπος πρότεινε την αναθεώρηση των κανονισμών σχετικά με την εξαίρεση οργανισμών και ατόμων που συμμετέχουν σε ελεγχόμενες δοκιμές ή τη μείωση ορισμένων υποχρεώσεων συμμόρφωσης, όπως ορίζεται στην παράγραφο 2 του άρθρου 20 του σχεδίου νόμου. Τέτοιοι κανονισμοί οδηγούν στον περιορισμό του πεδίου εφαρμογής της εξαίρεσης στις διατάξεις του παρόντος νόμου, ενώ τα συστήματα τεχνητής νοημοσύνης συχνά σχετίζονται με πολλές άλλες σχετικές νομικές διατάξεις.

Οι αντιπρόσωποι ανέφεραν τον μηχανισμό δοκιμών Τεχνητής Νοημοσύνης σε αυτόνομα επιβατικά αεροσκάφη στην Ιαπωνία, ο οποίος εξαιρείται από ορισμένους κανόνες για τη διασφάλιση της ασφάλειας της αεροπορίας. Ή οι δοκιμές αυτόνομων αυτοκινήτων στην Κίνα και την Ιαπωνία εξαιρούνται από τις διατάξεις του Νόμου για την Προστασία Δεδομένων Προσωπικού Χαρακτήρα, ο οποίος είναι η χρήση δεδομένων εικόνας χωρίς να χρειάζεται να θολώνονται τα πρόσωπα των συμμετεχόντων στην κυκλοφορία για την εκπαίδευση και την εκπαίδευση της όρασης με Τεχνητή Νοημοσύνη.

Από την εμπειρία άλλων χωρών, οι αντιπρόσωποι πρότειναν ο φορέας που είναι υπεύθυνος για τη σύνταξη της μελέτης να ορίζει στην παράγραφο 2 του άρθρου 20 μόνο με σαφήνεια ότι οι οργανισμοί και τα άτομα που συμμετέχουν σε ελεγχόμενες δοκιμές εξαιρούνται ή μειώνονται από ορισμένες υποχρεώσεις συμμόρφωσης που προβλέπονται στον παρόντα νόμο και σε άλλους σχετικούς νόμους.

Αντιπρόσωποι που παρευρίσκονται στη συνάντηση. Φωτογραφία: Ho Long

Η παράγραφος 5 του άρθρου 20 αναθέτει στην κρατική υπηρεσία διαχείρισης της Τεχνητής Νοημοσύνης την αρμοδιότητα να οργανώνει την παραλαβή, την αξιολόγηση και την επεξεργασία των φακέλων για συμμετοχή σε ελεγχόμενες δραστηριότητες δοκιμών σύμφωνα με τη διαδικασία αξιολόγησης και ταχείας απόκρισης.

Ο εκπρόσωπος Hoang Minh Hieu σημείωσε ότι τα συστήματα Τεχνητής Νοημοσύνης δεν είναι απλώς ζητήματα που σχετίζονται με την τεχνολογία, τους αλγόριθμους... αλλά και διεπιστημονικά και διεπιστημονικά ζητήματα. Επομένως, οι διατάξεις της παραγράφου 5 είναι πιθανώς κατάλληλες μόνο για συστήματα Τεχνητής Νοημοσύνης γενικής χρήσης, όπως η γενετική Τεχνητή Νοημοσύνη (ChatGPT, Gemini)... Όσον αφορά τα εξειδικευμένα συστήματα Τεχνητής Νοημοσύνης, ο διεπιστημονικός χαρακτήρας είναι πολύ υψηλός.

Αναφερόμενος στο σύστημα DrAid, ένα προϊόν τεχνητής νοημοσύνης που υποστηρίζει τη διάγνωση ιατρικής εικόνας και αναπτύχθηκε από την VinBrain, ο εκπρόσωπος Hoang Minh Hieu δήλωσε ότι εάν είναι εγγεγραμμένο για δοκιμές, είναι αδύνατο να μην έχει τον ρόλο παρακολούθησης και διαχείρισης του Υπουργείου Υγείας. Ως εκ τούτου, σε ορισμένες χώρες, η αξιολόγηση και η αδειοδότηση των ελεγχόμενων δοκιμών συστημάτων τεχνητής νοημοσύνης ανατίθεται σε ένα διεπιστημονικό συμβούλιο.

Οι αντιπρόσωποι πρότειναν την αναθεώρηση των διατάξεων της παραγράφου 5 του άρθρου 20 του σχεδίου νόμου προς την κατεύθυνση «η κρατική υπηρεσία διαχείρισης της τεχνητής νοημοσύνης προεδρεύει και συντονίζεται με τις αρμόδιες κρατικές υπηρεσίες διαχείρισης για την οργάνωση της παραλαβής, αξιολόγησης και επεξεργασίας των φακέλων για τη συμμετοχή σε ελεγχόμενες δραστηριότητες δοκιμών».

Ο εκπρόσωπος ανέφερε επίσης ότι οι διατάξεις του άρθρου 20 του σχεδίου νόμου εξακολουθούν να μην περιλαμβάνουν διατάξεις σχετικά με την αποζημίωση και τις ασφαλιστικές ευθύνες. Επίσης, δεν αναφέρεται ποιος είναι υπεύθυνος εάν η δοκιμή προκαλέσει ζημία σε τρίτους. Σύμφωνα με τη γενική αρχή, ο οργανισμός ή το άτομο που διεξάγει τις δοκιμές θα πρέπει να καταβάλει αστική αποζημίωση εάν προκαλέσει ζημία. Ως εκ τούτου, ο εκπρόσωπος Hoang Minh Hieu πρότεινε να εξεταστεί το ενδεχόμενο προσθήκης αυτής της διάταξης στο σχέδιο νόμου.

Όλο το λογισμικό τεχνητής νοημοσύνης που λειτουργεί στο Βιετνάμ πρέπει να είναι εξοπλισμένο με μια « τυπική βάση δεδομένων που μοιάζει με άνθρωπο ».

Ο βουλευτής της Εθνοσυνέλευσης, Tran Van Lam (Bac Ninh), εκτίμησε ιδιαίτερα το σχέδιο νόμου για τον ορισμό της αρχής της τοποθέτησης των ανθρώπων στο επίκεντρο, την ταξινόμηση και τον έλεγχο των κινδύνων, την επιθεώρηση συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου και την ανάπτυξη εθνικής υποδομής πληροφορικής και δεδομένων. Πρόκειται για ένα προοδευτικό νομικό πλαίσιο, σύμφωνα με τις διεθνείς τάσεις.

Ο βουλευτής της Εθνοσυνέλευσης Tran Van Lam (Bac Ninh) μιλάει. Φωτογραφία: Ho Long

Ωστόσο, για να ολοκληρωθεί πραγματικά ο Νόμος και να αποκτήσει ένα μακροπρόθεσμο όραμα, ο εκπρόσωπος πρότεινε μια βασική προσθήκη: Να θεωρηθεί η Τεχνητή Νοημοσύνη ως ένα «νεογέννητο ανθρώπινο ον». Μια «έξυπνη αλλά αθώα οντότητα»: που δεν γνωρίζει τον νόμο, δεν κατανοεί την ηθική και την εθιμοτυπία, δεν έχει πολιτισμικές αξίες και δεν διακρίνει το σωστό από το λάθος αν δεν διδάσκεται.

«Αν θεωρήσουμε την Τεχνητή Νοημοσύνη ως μια αναδυόμενη οντότητα, η ευθύνη μας δεν είναι μόνο να την ελέγξουμε, αλλά και να την διδάξουμε από την αρχή, σαν να διδάσκουμε σε ένα παιδί τις τυπικές ανθρώπινες αξίες. Και αυτό θα πρέπει να αποτελεί υποχρεωτική διάταξη σε αυτόν τον νόμο, όχι απλώς μια σύσταση», δήλωσε ο εκπρόσωπος Tran Van Lam.

Οι αντιπρόσωποι πρότειναν στην Εθνοσυνέλευση να προσθέσει μια νομική αρχή στον νόμο: «Όλο το λογισμικό τεχνητής νοημοσύνης που λειτουργεί στο Βιετνάμ, είτε αναπτύσσεται από εγχώριους είτε από ξένους οργανισμούς, πρέπει να είναι εξοπλισμένο με μια τυποποιημένη βάση δεδομένων για ανθρώπους ».

Σύμφωνα με τον εκπρόσωπο, η «τυπική βάση δεδομένων ανθρώπινου ιδρύματος» πρέπει να περιέχει επαρκείς πληροφορίες για να διδάξει στην Τεχνητή Νοημοσύνη την κατανόηση της νομοθεσίας του Βιετνάμ, να διδάξει τα ηθικά πρότυπα, τον πολιτισμό και τις καλές παραδόσεις του έθνους στην Τεχνητή Νοημοσύνη, να διδάξει στην Τεχνητή Νοημοσύνη την ικανότητα να αναγνωρίζει το σωστό και το λάθος, το τυπικό και το μη τυπικό, τα όρια συμπεριφοράς που δεν πρέπει να ξεπεραστούν και τους κανόνες για τον εντοπισμό κινδύνων για τους ανθρώπους. Και το πιο σημαντικό, να διασφαλίσει ότι αυτή η βάση δεδομένων πρέπει πάντα να έχει απόλυτη προτεραιότητα στη διαχείριση της συμπεριφοράς της Τεχνητής Νοημοσύνης, δεν πρέπει να αντικαθίσταται, να απενεργοποιείται ή να απενεργοποιείται από οποιονδήποτε άλλο αλγόριθμο ή δεδομένα εκπαίδευσης. Αυτός είναι ο νομικός και τεχνικός «χρυσός δακτύλιος» που διασφαλίζει ότι η Τεχνητή Νοημοσύνη δεν θα ξεστρατίσει.

Άποψη της συνάντησης. Φωτογραφία: Quang Khanh

Για την αποτελεσματική εφαρμογή αυτού του προσανατολισμού, οι σύνεδροι πρότειναν στο Υπουργείο Επιστήμης και Τεχνολογίας να αναλάβει ηγετικό ρόλο στην κατασκευή μιας ενιαίας, τυποποιημένης και συνεχώς ενημερωμένης πλατφόρμας βάσης δεδομένων «Being Victorian» , παρέχοντας την στους προγραμματιστές Τεχνητής Νοημοσύνης ως υποχρεωτική απαίτηση. Η κυβέρνηση θα πρέπει να αναπτύξει μια ισχυρή εθνική υποδομή υπολογιστών για να διασφαλίσει ότι η Βιετναμέζικη Τεχνητή Νοημοσύνη εκπαιδεύεται στις βιετναμέζικες αξίες και δεν εξαρτάται από ξένα μοντέλα.

Ταυτόχρονα, δημιουργήστε ένα Εθνικό Κέντρο Δοκιμών Τεχνητής Νοημοσύνης για την άμεση αξιολόγηση της αποκλίνουσας συμπεριφοράς, τον έλεγχο μοντέλων υψηλού κινδύνου και την άμεση παρέμβαση όταν υπάρχουν ενδείξεις υπέρβασης των ορίων. Προωθήστε την εκπαίδευση στην Τεχνητή Νοημοσύνη σε ολόκληρη την κοινωνία, εστιάζοντας στην υποστήριξη των ανθρώπων, των επιχειρήσεων και ιδιαίτερα του δημόσιου τομέα ώστε να έχουν την ικανότητα να εντοπίζουν, να χρησιμοποιούν και να παρακολουθούν σωστά την Τεχνητή Νοημοσύνη.

Ο εκπρόσωπος Tran Van Lam τόνισε: «Ο σημερινός νόμος για την Τεχνητή Νοημοσύνη δεν είναι απλώς ένας νόμος για την τεχνολογία, αλλά ένας νόμος του μέλλοντος· μια δέσμευση της Εθνοσυνέλευσης προς τον λαό, αναπτύσσουμε την τεχνολογία αλλά δεν χάνουμε τον έλεγχο· προωθούμε την καινοτομία αλλά δεν αφήνουμε τους κινδύνους να ξεπεράσουν τις δυνατότητές μας. Και καλλιεργούμε την Τεχνητή Νοημοσύνη με βιετναμέζικες αξίες για να υπηρετεί τον βιετναμέζικο λαό».

Πηγή: https://daibieunhandan.vn/phat-trien-cong-nghe-thuc-day-doi-moi-nhung-khong-de-rui-ro-vuot-tam-10397378.html