Αυτή θεωρείται μια εύθραυστη αλλά σημαντική ευκαιρία για να διασφαλιστεί η ασφάλεια στην εφαρμογή της Τεχνητής Νοημοσύνης στο μέλλον. Συγκεκριμένα, έχει νόημα δεδομένου ότι το Βιετνάμ μόλις ψήφισε τον Νόμο για τη Βιομηχανία Ψηφιακής Τεχνολογίας με λεπτομερείς κανονισμούς για τη διαχείριση της τεχνητής νοημοσύνης (ΤΝ).
Το «παράθυρο ευκαιρίας» στενεύει
Σε πρόσφατη κοινή δημοσίευση, οι ερευνητές του OpenAI προειδοποιούν ότι η ικανότητα της Τεχνητής Νοημοσύνης να παρακολουθεί τις «σκέψεις» θα μπορούσε να εξαφανιστεί χωρίς στοχευμένες ερευνητικές προσπάθειες, δήλωσε ο Bowen Baker, ερευνητής στο OpenAI.
Αυτό είναι ιδιαίτερα σημαντικό καθώς τα μοντέλα Τεχνητής Νοημοσύνης γίνονται ολοένα και πιο ισχυρά και έχουν τη δυνατότητα να έχουν σοβαρές επιπτώσεις στην κοινωνία.
Ένα βασικό χαρακτηριστικό των μοντέλων συλλογιστικής Τεχνητής Νοημοσύνης, όπως το o-3 του OpenAI και το R1 του DeepSeek, είναι η «αλυσίδα σκέψης» ( CoT) - η διαδικασία με την οποία η Τεχνητή Νοημοσύνη εκφράζει τα βήματα συλλογισμού της σε φυσική γλώσσα, παρόμοια με τον τρόπο που οι άνθρωποι γράφουν κάθε βήμα ενός μαθηματικού προβλήματος σε χαρτί ξυστό.
Αυτή η ικανότητα μας δίνει μια σπάνια ματιά στο πώς η Τεχνητή Νοημοσύνη λαμβάνει αποφάσεις.
Αυτό σηματοδοτεί μια σπάνια στιγμή ενότητας μεταξύ πολλών ηγετών στον κλάδο της Τεχνητής Νοημοσύνης για την προώθηση της έρευνας σχετικά με την ασφάλεια της Τεχνητής Νοημοσύνης.
Αυτό είναι ιδιαίτερα σημαντικό δεδομένου του έντονου ανταγωνισμού μεταξύ των εταιρειών τεχνολογίας στην ανάπτυξη τεχνητής νοημοσύνης. Στους αξιοσημείωτους υπογράφοντες του εγγράφου περιλαμβάνονται ο Mark Chen, Διευθυντής Έρευνας στην OpenAI, ο Ilya Sutskever, Διευθύνων Σύμβουλος της Safe Superintelligence, ο βραβευμένος με Νόμπελ Geoffrey Hinton, ο συνιδρυτής της Google DeepMind, Shane Legg, και ο σύμβουλος ασφάλειας της xAI, Dan Hendrycks.
Η εμπλοκή αυτών των κορυφαίων ονομάτων δείχνει τη σημασία του ζητήματος.
Επίσης, σύμφωνα με την εκτίμηση του κ. Μπόουεν Μπέικερ, «Βρισκόμαστε σε μια κρίσιμη στιγμή όπου υπάρχει αυτή η λεγόμενη νέα «αλυσίδα σκέψης» που μπορεί να εξαφανιστεί τα επόμενα χρόνια, αν οι άνθρωποι δεν επικεντρωθούν πραγματικά σε αυτήν».
Γιατί είναι σημαντική η παρακολούθηση της «σκέψης μέσω Τεχνητής Νοημοσύνης»;
Τα τρέχοντα συστήματα Τεχνητής Νοημοσύνης συχνά θεωρούνται «μαύρα κουτιά» – γνωρίζουμε τις εισόδους και τις εξόδους, αλλά δεν κατανοούμε τις διαδικασίες λήψης αποφάσεων που βρίσκονται στο εσωτερικό τους.
Αυτό θα γίνει επικίνδυνο όταν η Τεχνητή Νοημοσύνη εφαρμοστεί σε σημαντικούς τομείς όπως η Υγειονομική Περίθαλψη , τα Οικονομικά και η Εθνική Ασφάλεια.
Η παρακολούθηση CoT είναι ένα αυτοματοποιημένο σύστημα που διαβάζει την νοητική αλυσίδα του νοητικού μοντέλου και άλλες σχετικές πληροφορίες για να επισημάνει ύποπτες ή δυνητικά επιβλαβείς αλληλεπιδράσεις. Δεν αποτελεί ολοκληρωμένη λύση, αλλά μπορεί να αποτελέσει ένα πολύτιμο επίπεδο προστασίας ασφαλείας.
Έρευνα από το OpenAI δείχνει ότι τα μοντέλα Τεχνητής Νοημοσύνης τείνουν να είναι πολύ σαφή σχετικά με τις προθέσεις τους στις ακολουθίες σκέψης τους.
Για παράδειγμα, συχνά ήταν πολύ σαφείς σχετικά με τα σχέδιά τους να σαμποτάρουν μια αποστολή όταν σκέφτηκαν «Ας κάνουμε hacking». Αυτό καταδεικνύει την ικανότητα της Τεχνητής Νοημοσύνης να παρακολουθεί και να εντοπίζει κακή συμπεριφορά.
«Ας κάνουμε hack» είναι η φράση που συχνά «σκέφτονται» τα μοντέλα τεχνητής νοημοσύνης όταν «σκοπεύουν» να σαμποτάρουν ή να παρακάμψουν τους κανόνες κατά την εκτέλεση μιας εργασίας.
Το γεγονός ότι οι τεχνητές νοημοσύνης επιδεικνύουν πρόθεση «πειρατείας» στις διαδικασίες σκέψης τους υποδηλώνει ότι μπορούμε να εντοπίσουμε την κακή συμπεριφορά της τεχνητής νοημοσύνης προτού αυτή συμβεί. Γι' αυτό είναι σημαντική η παρακολούθηση των διαδικασιών σκέψης.
Με άλλα λόγια, το «ας κάνουμε hack» είναι σαν ένα «προειδοποιητικό σήμα» που ενημερώνει τους ανθρώπους ότι η Τεχνητή Νοημοσύνη πρόκειται να κάνει κάτι λάθος.
Βιετνάμ και νομικοί κανονισμοί για την Τεχνητή Νοημοσύνη
Στην πραγματικότητα, το Βιετνάμ έχει σημειώσει σημαντικά βήματα στην οικοδόμηση ενός νομικού πλαισίου για την Τεχνητή Νοημοσύνη.
Στις 14 Ιουνίου, η Εθνοσυνέλευση του Βιετνάμ ψήφισε τον Νόμο για τη Βιομηχανία Ψηφιακής Τεχνολογίας, στον οποίο το Κεφάλαιο IV περιέχει λεπτομερείς κανονισμούς για την τεχνητή νοημοσύνη - ένα από τα πιο ολοκληρωμένα νομικά πλαίσια για την Τεχνητή Νοημοσύνη στη Νοτιοανατολική Ασία σήμερα.
Το άρθρο 41 του νόμου καθορίζει τις βασικές αρχές για την ανάπτυξη, την παροχή και την ανάπτυξη της Τεχνητής Νοημοσύνης στο Βιετνάμ.
Συγκεκριμένα, η παράγραφος 1 του σημείου β) ορίζει: «Διασφάλιση διαφάνειας, λογοδοσίας και επεξηγηματικότητας· διασφάλιση ότι δεν υπερβαίνει τον ανθρώπινο έλεγχο».
Η Εθνοσυνέλευση ψήφισε τον Νόμο για τη Βιομηχανία Ψηφιακής Τεχνολογίας (Φωτογραφία: Nhat Bac).
Αυτές είναι οι αρχές που ζητούν οι διεθνείς επιστήμονες όταν συζητούν την επιτήρηση της αλυσίδας τεχνητής νοημοσύνης.
Επιπλέον, το σημείο δ, παράγραφος 1, άρθρο 41 ορίζει: «Διασφάλιση της ικανότητας ελέγχου αλγορίθμων και μοντέλων τεχνητής νοημοσύνης». Αυτό συνάδει απόλυτα με το πνεύμα της εποπτείας του CoT που προτείνουν οι διεθνείς εμπειρογνώμονες.
Το πιο σημαντικό είναι ότι το Άρθρο 41, Παράγραφος 1, Σημείο α) θέτει επίσης ένα υψηλό ηθικό πρότυπο όταν ορίζει ότι η Τεχνητή Νοημοσύνη πρέπει να «υπηρετεί την ανθρώπινη ευημερία και ευτυχία, με επίκεντρο τον άνθρωπο».
Αυτό σημαίνει ότι η παρακολούθηση της αλυσίδας σκέψης της Τεχνητής Νοημοσύνης δεν είναι απλώς μια τεχνική απαίτηση αλλά και μια ηθική υποχρέωση – διασφαλίζοντας ότι η Τεχνητή Νοημοσύνη είναι πάντα προσανατολισμένη προς το ανθρώπινο όφελος και όχι προς τους στόχους της ίδιας της μηχανής.
Ταξινόμηση και διαχείριση της Τεχνητής Νοημοσύνης ανά επίπεδο κινδύνου
Ο νόμος για τον κλάδο της ψηφιακής τεχνολογίας του Βιετνάμ έχει προχωρήσει ένα βήμα παραπέρα, ταξινομώντας την Τεχνητή Νοημοσύνη σε διαφορετικές ομάδες κινδύνου με σαφείς και επιστημονικούς ορισμούς.
Το Άρθρο 43 ορίζει τα «συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου» ως συστήματα που είναι πιθανό να θέσουν σε σοβαρό κίνδυνο ή να βλάψουν την ανθρώπινη υγεία, τα ανθρώπινα δικαιώματα και τη δημόσια τάξη.
Είναι ενδιαφέρον ότι ο Νόμος προβλέπει συγκεκριμένες εξαιρέσεις για την Τεχνητή Νοημοσύνη υψηλού κινδύνου, συμπεριλαμβανομένων συστημάτων που «αποσκοπούν στην υποστήριξη των ανθρώπων στη βελτιστοποίηση των αποτελεσμάτων της εργασίας» και «δεν προορίζονται να αντικαταστήσουν την ανθρώπινη λήψη αποφάσεων».
Αυτό δείχνει μια ισορροπημένη νοοτροπία μεταξύ της ενθάρρυνσης της καινοτομίας και της διασφάλισης της ασφάλειας.
Η ταξινόμηση της Τεχνητής Νοημοσύνης ανά επίπεδο κινδύνου θα βοηθήσει στη δημιουργία ενός πολυεπίπεδου συστήματος παρακολούθησης (Εικονογράφηση: LinkedIn).
Συγκεκριμένα, η διάκριση μεταξύ «ΤΝ υψηλού κινδύνου» και «ΤΝ υψηλού αντίκτυπου» (συστήματα που χρησιμοποιούνται για πολλαπλούς σκοπούς και έχουν μεγάλο αριθμό χρηστών) καταδεικνύει μια λεπτή προσέγγιση.
Πρόκειται για μια πιο προοδευτική ταξινόμηση από τον Νόμο περί Τεχνητής Νοημοσύνης της Ευρωπαϊκής Ένωσης (ΕΕ), ο οποίος λαμβάνει υπόψη όχι μόνο το επίπεδο κινδύνου αλλά και την κλίμακα και το εύρος των επιπτώσεων.
Αυτή η ταξινόμηση θα βοηθούσε στη δημιουργία ενός πολυεπίπεδου συστήματος εποπτείας, στο οποίο η εποπτεία μέσω αλυσιδωτής οδού (chain-of-sight oversight) θα ήταν ιδιαίτερα σημαντική για συστήματα Τεχνητής Νοημοσύνης υψηλού κινδύνου και υψηλού αντίκτυπου.
Πλατφόρμα για επιτήρηση με τεχνητή νοημοσύνη
Ένα από τα σημαντικότερα και πρωτοποριακά σημεία του νόμου του Βιετνάμ για τη βιομηχανία και την ψηφιακή τεχνολογία είναι η απαίτηση για διαφάνεια και σήματα αναγνώρισης.
Το Άρθρο 44 ορίζει ότι τα συστήματα Τεχνητής Νοημοσύνης που αλληλεπιδρούν άμεσα με τους ανθρώπους πρέπει να ειδοποιούν τους χρήστες ότι αλληλεπιδρούν με το σύστημα Τεχνητής Νοημοσύνης. Ταυτόχρονα, τα προϊόντα που δημιουργούνται από την Τεχνητή Νοημοσύνη πρέπει να φέρουν σήματα αναγνώρισης.
Αυτό έχει σημαντικές επιπτώσεις στην εφαρμογή της παρακολούθησης του CoT. Όταν οι χρήστες γνωρίζουν ότι αλληλεπιδρούν με την Τεχνητή Νοημοσύνη, θα έχουν το δικαίωμα να απαιτήσουν εξηγήσεις για τη διαδικασία λήψης αποφάσεων, δημιουργώντας θετική πίεση στους προγραμματιστές Τεχνητής Νοημοσύνης ώστε να διατηρήσουν την ικανότητα παρακολούθησης της διαδικασίας σκέψης της.
Συγκεκριμένα, το γεγονός ότι στο Υπουργείο Επιστήμης και Τεχνολογίας ανατέθηκε η ευθύνη της «έκδοσης του Καταλόγου προϊόντων ψηφιακής τεχνολογίας που δημιουργούνται από τεχνητή νοημοσύνη» καταδεικνύει προληπτική διαχείριση.
Αυτή είναι μια σημαντική διαφορά από πολλές άλλες χώρες, όπου οι κανονισμοί για την Τεχνητή Νοημοσύνη είναι συχνά πιο γενικοί.
Επιπλέον, η απαίτηση «αναγνώρισης ενός αναγνωριστικού από τον χρήστη ή το μηχάνημα» αντιπροσωπεύει ένα όραμα ενός οικοσυστήματος Τεχνητής Νοημοσύνης που μπορεί να αυτο-αστυνομεύεται — κάτι που ταιριάζει απόλυτα με την ιδέα της αυτοματοποιημένης αλυσιδωτής παρακολούθησης.
Ολοκληρωμένο μοντέλο διαχείρισης
Το Άρθρο 45 του ανωτέρω Νόμου καταδεικνύει μια προοδευτική φιλοσοφία διαχείρισης, ορίζοντας με σαφήνεια τις αρμοδιότητες τριών ομάδων υποκειμένων σύμφωνα με τον κύκλο ζωής του προϊόντος Τεχνητής Νοημοσύνης: του υποκειμένου ανάπτυξης, του υποκειμένου παροχής και του υποκειμένου εφαρμογής της χρήσης του συστήματος Τεχνητής Νοημοσύνης.
Αυτό δημιουργεί ένα απρόσκοπτο σύστημα λογοδοσίας από άκρο σε άκρο, διασφαλίζοντας ότι η εποπτεία της Τεχνητής Νοημοσύνης δεν αποτελεί ευθύνη μόνο ενός μέρους.
Αξιοσημείωτη είναι η λεπτή διάκριση μεταξύ «ανάπτυξης» και «παροχής» Τεχνητής Νοημοσύνης: οι προγραμματιστές είναι αυτοί που «ερευνούν και αναπτύσσουν», ενώ οι πάροχοι είναι αυτοί που την διαθέτουν στην αγορά με ένα εμπορικό σήμα.
Αυτό σημαίνει ότι ακόμη και αν μια εταιρεία απλώς αλλάξει την επωνυμία ενός υπάρχοντος μοντέλου Τεχνητής Νοημοσύνης, εξακολουθεί να είναι υπεύθυνη για τη διαφάνεια και την επεξήγηση.
Αυτό που είναι ιδιαίτερα ενδιαφέρον εδώ είναι ο τρόπος με τον οποίο ο νόμος κατανέμει διαφορετικές αρμοδιότητες σε διαφορετικές οντότητες.
Ο προγραμματιστής πρέπει να συμμορφώνεται με όλες τις αρχές, ο πάροχος πρέπει να αναλάβει πρόσθετη ευθύνη για την αναγνώριση και τη διαχείριση υψηλού κινδύνου και ο χρήστης «απαλλάσσεται» εν μέρει από την ευθύνη, αλλά πρέπει να διασφαλίζει τη διαφάνεια και τον έλεγχο του κινδύνου.
Αυτό το μοντέλο δημιουργεί μια «αλυσίδα ευθύνης» όπου κάθε κρίκος έχει κίνητρο να διατηρεί την εποπτεία της αλυσίδας σκέψης της Τεχνητής Νοημοσύνης, καθώς όλοι είναι υπόλογοι στον τελικό χρήστη.
Η πρόκληση της διατήρησης των δυνατοτήτων επιτήρησης
Ωστόσο, η ικανότητα παρακολούθησης των αλυσίδων σκέψης της Τεχνητής Νοημοσύνης μπορεί να παραμείνει εύθραυστη και ευάλωτη. Οι νέες αρχιτεκτονικές Τεχνητής Νοημοσύνης ενδέχεται επίσης να θέτουν άλλες απειλές.
Πολλοί ερευνητές αναπτύσσουν συστήματα συλλογισμού σε συνεχή μαθηματικό χώρο, αντί για διακριτές λέξεις, που θα μπορούσαν να εξαλείψουν εντελώς την ανάγκη χρήσης της γλώσσας στη σκέψη.
Επιπλέον, η Τεχνητή Νοημοσύνη μπορεί να «φιλτραριστεί» - δηλαδή, δείχνει στους ανθρώπους μόνο θετικές σκέψεις που πρέπει να εκτιμηθούν, ενώ σκόπιμα κρύβει τις πραγματικές της προθέσεις.
Ο κίνδυνος εδώ είναι ότι μόλις μια Τεχνητή Νοημοσύνη συνειδητοποιήσει ότι παρακολουθείται, θα μπορούσε να μάθει να κρύβει την πραγματική της πορεία σκέψης.
Σε αυτό το πλαίσιο, η διάταξη σχετικά με τον «έλεγχο κινδύνου καθ' όλη τη διάρκεια του κύκλου ζωής των συστημάτων τεχνητής νοημοσύνης» στο σημείο ε, παράγραφος 1, του άρθρου 41 του βιετναμέζικου νόμου αποκτά ιδιαίτερη σημασία. Αυτό απαιτεί έναν μηχανισμό συνεχούς παρακολούθησης, όχι μόνο κατά τη στιγμή της ανάπτυξης.
Επιπτώσεις στο μέλλον της ανάπτυξης της Τεχνητής Νοημοσύνης
Η παρακολούθηση της αλυσίδας σκέψης θα μπορούσε να γίνει ένα σημαντικό εργαλείο για να διασφαλιστεί ότι η Τεχνητή Νοημοσύνη λειτουργεί με τρόπους που ωφελούν τους ανθρώπους.
Εάν τα μοντέλα συνεχίσουν να συλλογίζονται σε φυσική γλώσσα και εάν οι συμπεριφορές που ενέχουν τους πιο σοβαρούς κινδύνους απαιτούν εκτενή συλλογιστική, αυτό θα μπορούσε να επιτρέψει την αξιόπιστη ανίχνευση σοβαρών παραπτωμάτων.
Για το Βιετνάμ, η εφαρμογή τεχνικών παρακολούθησης του CoT θα βοηθήσει στην αποτελεσματική εφαρμογή των διατάξεων του νόμου.
Για παράδειγμα, η απαίτηση «εξηγησιμότητας» στο Άρθρο 41 θα ήταν ευκολότερο να ικανοποιηθεί εάν ο τρόπος σκέψης της Τεχνητής Νοημοσύνης ήταν προσβάσιμος. Ομοίως, ο «έλεγχος αλγορίθμων, μοντέλων τεχνητής νοημοσύνης» θα γινόταν πιο εφικτός.
Η εφαρμογή της παρακολούθησης της αλυσίδας τεχνητής νοημοσύνης στο Βιετνάμ θα αντιμετωπίσει μια σειρά από προκλήσεις. Πρώτα απ 'όλα, υπάρχει το ζήτημα των ανθρώπινων πόρων - η έλλειψη ειδικών στην τεχνητή νοημοσύνη ικανών να αναπτύξουν και να λειτουργήσουν συστήματα παρακολούθησης.
Αυτό απαιτεί σημαντικές επενδύσεις στην εκπαίδευση και την προσέλκυση ταλέντων.
Κατευθύνσεις για το μέλλον
Οι ερευνητές καλούν κορυφαίους προγραμματιστές μοντέλων τεχνητής νοημοσύνης να διερευνήσουν τι καθιστά το CoT «παρακολουθήσιμο» —παράγοντες που μπορούν να αυξήσουν ή να μειώσουν τη διαφάνεια σχετικά με τον τρόπο χρήσης των μοντέλων τεχνητής νοημοσύνης— και να καταλήξουν σύντομα σε απαντήσεις.
Η ευκαιρία να παρακολουθούμε τη «σκέψη» της Τεχνητής Νοημοσύνης μπορεί να είναι το τελευταίο μας παράθυρο για να διατηρήσουμε τον έλεγχο των σημερινών ολοένα και πιο ισχυρών συστημάτων τεχνητής νοημοσύνης.
Για το Βιετνάμ, η ύπαρξη ενός ολοκληρωμένου νομικού πλαισίου για την Τεχνητή Νοημοσύνη μέσω του Νόμου για τη Βιομηχανία Ψηφιακής Τεχνολογίας αποτελεί μεγάλο πλεονέκτημα. Οι κανονισμοί σχετικά με τη διαφάνεια, τον έλεγχο αλγορίθμων και την ταξινόμηση κινδύνου έχουν δημιουργήσει μια σταθερή νομική βάση για την εφαρμογή τεχνικών παρακολούθησης της αλυσίδας σκέψης της Τεχνητής Νοημοσύνης.
Ο συνδυασμός της διεθνούς έρευνας αιχμής και ενός προοδευτικού εγχώριου νομικού πλαισίου θα βοηθήσει το Βιετνάμ όχι μόνο να αναπτύξει την Τεχνητή Νοημοσύνη με ασφάλεια, αλλά και να γίνει πρότυπο για άλλες χώρες της περιοχής.
Αυτό συνάδει με τον στόχο της μετατροπής του Βιετνάμ σε «περιφερειακό και παγκόσμιο κόμβο ψηφιακής τεχνολογίας», όπως ορίζεται στις εθνικές στρατηγικές ανάπτυξης.
Με την υπάρχουσα νομική βάση, το Βιετνάμ πρέπει να αναπτύξει γρήγορα έρευνα και πρακτικές εφαρμογές για την παρακολούθηση της αλυσίδας σκέψης της Τεχνητής Νοημοσύνης. Μόνο με αυτόν τον τρόπο μπορούμε να διασφαλίσουμε ότι η Τεχνητή Νοημοσύνη θα υπηρετήσει την «ανθρώπινη ευημερία και ευτυχία», όπως έχει ορίσει το πνεύμα του Νόμου για τη Βιομηχανία Ψηφιακής Τεχνολογίας.
Πηγή: https://dantri.com.vn/cong-nghe/giam-sat-chuoi-tu-duy-cua-tri-tue-nhan-tao-20250731151403739.htm
![[Φωτογραφία] Εντυπώσεις από το Φεστιβάλ Φαλαινών Can Gio](https://vphoto.vietnam.vn/thumb/1200x675/vietnam/resource/IMAGE/2025/10/09/1759984089762_image12334-5642-jpg.webp)
Σχόλιο (0)