Τεχνητή Νοημοσύνη: Πρέπει να αυξήσουμε την ασφάλεια αντί να επικεντρωθούμε απλώς στην ανάπτυξη ισχυρότερων

Αντί να επικεντρώνονται απλώς στην ανάπτυξη της Τεχνητής Νοημοσύνης για να γίνουν πιο ισχυρές, οι επιδραστικοί παγκόσμιοι ειδικοί σε θέματα Τεχνητής Νοημοσύνης προειδοποιούν ότι οι άνθρωποι πρέπει επειγόντως να σκεφτούν πώς να ζήσουν με την Τεχνητή Νοημοσύνη - μια οντότητα πιο έξυπνη από τους ίδιους, που θα της εμποδίζει να πάρει τον έλεγχο από τους ανθρώπους.

Η συζήτηση στρογγυλής τραπέζης με θέμα «Τεχνητή Νοημοσύνη για την ανθρωπότητα: Ηθική και ασφάλεια της ΤΝ στη νέα εποχή», στο πλαίσιο της Εβδομάδας Επιστήμης και Τεχνολογίας VinFuture 2025, φέρνει κοντά επιστήμονες , πολιτικούς και εφευρέτες για να συζητήσουν την υπεύθυνη ανάπτυξη της ΤΝ, με γνώμονα τις ανθρωπιστικές αξίες.

Σκεφτείτε επειγόντως πώς να ζήσετε με την Τεχνητή Νοημοσύνη - μια οντότητα πιο έξυπνη από εσάς

Μιλώντας στο σεμινάριο, ο καθηγητής Toby Walsh, από το Πανεπιστήμιο της Νέας Νότιας Ουαλίας στην Αυστραλία, Ακαδημαϊκός της Αμερικανικής Ένωσης Υπολογιστών, επιβεβαίωσε: «Πιστεύω ακράδαντα ότι η υπεύθυνη χρήση της Τεχνητής Νοημοσύνης θα πρέπει να είναι υποχρεωτική. Υπάρχουν πολλά διεστραμμένα κίνητρα σήμερα, με τεράστια χρηματικά ποσά να κερδίζονται χάρη στην Τεχνητή Νοημοσύνη, και ο μόνος τρόπος για να διασφαλιστεί η σωστή συμπεριφορά είναι η εφαρμογή αυστηρών κανονισμών, έτσι ώστε τα δημόσια συμφέροντα να εξισορροπούνται πάντα με τα εμπορικά συμφέροντα».

Ανέφερε ένα τυπικό παράδειγμα σημαντικών αποφάσεων, όπως η εκδίκαση και η επιβολή ποινών στις Ηνωμένες Πολιτείες, όπου ένα σύστημα τεχνητής νοημοσύνης χρησιμοποιήθηκε για να κάνει συστάσεις σχετικά με την ποινή φυλάκισης ενός ατόμου και την πιθανότητα υποτροπής. Δυστυχώς, αυτό το σύστημα εκπαιδεύτηκε με βάση ιστορικά δεδομένα και ακούσια αντανακλούσε παλαιότερες φυλετικές προκαταλήψεις, οδηγώντας σε διακρίσεις εις βάρος των μαύρων.

Καθηγητής Toby Walsh, Πανεπιστήμιο της Νέας Νότιας Ουαλίας, Αυστραλία, Μέλος της Αμερικανικής Εταιρείας Υπολογιστών.

Επομένως, οι εταιρείες που αναπτύσσουν και λειτουργούν συστήματα Τεχνητής Νοημοσύνης πρέπει να θεωρούνται υπεύθυνες για τις συνέπειες που προκαλούν αυτές οι «μηχανές».

Ο καθηγητής Geoffrey Hinton - νικητής του κύριου βραβείου VF 2024, ανησυχεί ότι η Τεχνητή Νοημοσύνη (ΤΝ) βελτιώνεται σταδιακά στο σχεδιασμό επικίνδυνων ιών, στις κυβερνοεπιθέσεις, στη δημιουργία ψεύτικων βίντεο για τη διατάραξη των εκλογών. Τα επόμενα 20 χρόνια, η ΤΝ θα γίνει πιο έξυπνη από εμάς και δεν θα ξέρουμε πώς να την εμποδίσουμε να πάρει τον έλεγχο από τους ανθρώπους.

Ως εκ τούτου, ο καθηγητής αυτός τόνισε: «Πρέπει επειγόντως να σκεφτούμε πώς να ζήσουμε με οντότητες πιο έξυπνες από εμάς. Αυτή είναι μια κατάσταση που η ανθρωπότητα δεν έχει αντιμετωπίσει ποτέ πριν, είναι καινούργια και πρέπει να καταβάλουμε πολλές ερευνητικές προσπάθειες πριν συμβεί αυτό».

Ανάγκη ενίσχυσης της διεθνούς συνεργασίας για τον περιορισμό των κινδύνων από την Τεχνητή Νοημοσύνη

Συμμεριζόμενος αυτήν την ανησυχία, ο καθηγητής Yoshua Bengio - νικητής του κύριου βραβείου VinFuture 2024, δήλωσε ότι τα μοντέλα Τεχνητής Νοημοσύνης, οι δυνατότητές τους και τα επίπεδα αυτονομίας τους εξακολουθούν να αναπτύσσονται με γρήγορο και σταθερό ρυθμό. Εάν αυτή η τάση συνεχιστεί, τα αυτόνομα συστήματα Τεχνητής Νοημοσύνης θα μπορούσαν να ξεπεράσουν τους ανθρώπους στις περισσότερες γνωστικές εργασίες, μέσα σε μόλις 5-10 χρόνια.

Αυτό θα αποτελούσε ένα ιστορικό σημείο καμπής που θα μπορούσε να βελτιώσει δραματικά την ποιότητα ζωής μας. Αλλά αν δεν αντιμετωπιστεί με προσοχή, θα μπορούσε επίσης να θέσει σε τεράστιους κινδύνους τη δημοκρατία, τη γεωπολιτική σταθερότητα, ακόμη και το μέλλον της ανθρωπότητας.

«Πρέπει να ενισχύσουμε την ασφάλεια για την προηγμένη Τεχνητή Νοημοσύνη αντί να επικεντρωνόμαστε απλώς στην ενίσχυσή της. Η ασφάλεια και η εμπιστοσύνη δεν είναι δευτερεύοντες παράγοντες, αλλά απαραίτητες στη διαδικασία ανάπτυξης προς όφελος της ανθρωπότητας. Πρέπει να δράσουμε από κοινού τόσο σε πολιτικό όσο και σε επιστημονικό επίπεδο», είπε.

Καθηγητής Γιόσουα Μπέντζιο - Νικητής του κύριου βραβείου VinFuture 2024.

Αυτός ο επιστήμονας συνιστά ότι, από άποψη πολιτικής, ο κόσμος χρειάζεται διεθνή συνεργασία. Από άποψη επιστήμης, είναι απαραίτητο να κατανοήσουμε καλύτερα πώς να σχεδιάσουμε μια Τεχνητή Νοημοσύνη που να είναι ταυτόχρονα ανώτερη σε ικανότητες και ακίνδυνη για τον άνθρωπο, να διατηρήσουμε την ικανότητα ελέγχου της Τεχνητής Νοημοσύνης έτσι ώστε να συμπεριφέρεται με ασφάλεια ακόμη και όταν οι άνθρωποι της ζητούν να κάνει λάθος, και να δημιουργήσουμε τεχνικά και κοινωνικά εμπόδια για να διασφαλίσουμε ότι η Τεχνητή Νοημοσύνη είναι συνεπής με τους ανθρώπινους κανόνες, τις προθέσεις, τις αξίες και τα συμφέροντα.

Ο Δρ. Vinton Grey Cert (Αντιπρόεδρος και Διευθυντής Διαδικτυακού Ευαγγελισμού στην Google - Νικητής του Μεγάλου Βραβείου VF 2022) συμφωνεί: Πρέπει να θεωρήσουμε την Τεχνητή Νοημοσύνη υπόλογη, να δημιουργήσουμε μια αλυσίδα επιτήρησης για να γνωρίζουμε τι κάνει, πότε, ειδικά όταν κάτι πάει στραβά. Πολλές από τις αρχές που ισχύουν για τους ανθρώπους θα ισχύουν και για τους πράκτορες της Τεχνητής Νοημοσύνης στο διαδικτυακό περιβάλλον.

«Πρέπει ταυτόχρονα να θεσπίσουμε νέους κανόνες, όπου η χρήση ισχυρής ταυτοποίησης, κρυπτογραφίας για την ασφάλεια των πληροφοριών, η εφαρμογή μηχανισμών για τη διασφάλιση της λογοδοσίας και η προστασία των ταυτοτήτων από την παραβίαση από άλλους – θα γίνει μια τακτική συνήθεια. Θα πρέπει να χρησιμοποιήσουμε την τεχνολογία για να περιορίσουμε τους κινδύνους από την αρχή και να είμαστε σαφείς ότι όποιος κριθεί επιβλαβής για την κοινότητα και την κοινωνία πρέπει να αντιμετωπίσει τις συνέπειες αυτής της συμπεριφοράς. Αυτό απαιτεί διεθνή συνεργασία», είπε.

Το Βιετνάμ πρέπει να έχει τη δική του πορεία στην κατασκευή δεδομένων τεχνητής νοημοσύνης.

Ο Αναπληρωτής Καθηγητής Luu Anh Tuan, από το Τεχνολογικό Πανεπιστήμιο Nanyang (Σιγκαπούρη) και το Πανεπιστήμιο VinUni (Βιετνάμ), δήλωσε ότι άλλες χώρες έχουν σύνολα δεδομένων περίπου 10 ετών, αλλά το Βιετνάμ ξεκινά από το μηδέν. Επομένως, μπορούμε να δημιουργήσουμε βιώσιμα δεδομένα από την αρχή, παρέχοντας καθαρά, ηθικά και πολιτισμικά κατάλληλα δεδομένα από την αρχή.

Ωστόσο, η μεγαλύτερη πρόκληση για το Βιετνάμ είναι η ιδιαιτερότητα της βιετναμέζικης γλώσσας. Έχουμε ένα ποικίλο διαλεκτικό σύστημα, πλούσια περιφερειακή κουλτούρα και εξαιρετικά πολύπλοκες μορφές προσφώνησης. Μεγάλα μοντέλα όπως το ChatGPT ή το Gemini υποστηρίζουν τα βιετναμέζικα, αλλά η ποιότητα δεν είναι βαθιά, επειδή δεν κατανοούν τη βιετναμέζικη διάλεκτο, τα έθιμα ή την ιστορία.

Το Βιετνάμ πρέπει να δημιουργήσει το δικό του βιετναμέζικο μοντέλο. Επιπλέον, θα πρέπει να αναπτύξουμε ένα μοντέλο ανοιχτού κώδικα, ώστε οι μικρές επιχειρήσεις να μπορούν να το χρησιμοποιούν και να συνεισφέρουν. «Αν βασιζόμαστε μόνο σε ξένα μοντέλα με τη μορφή «μαύρων κουτιών», θα είμαστε μόνο χρήστες Τεχνητής Νοημοσύνης και όχι προγραμματιστές Τεχνητής Νοημοσύνης», είπε.

Αυτή τη στιγμή, ο Αναπληρωτής Καθηγητής Luu Anh Tuan και οι συνάδελφοί του δημιουργούν δεδομένα τεχνητής νοημοσύνης από το Βιετνάμ. Παράγοντες όπως η διάλεκτος, η ιστορία και ο πολιτισμός πρέπει να ληφθούν υπόψη ως επίκεντρο.

Είπε επίσης ότι σε ξένες χώρες, οι μαθητές εκπαιδεύονται σχετικά με την Τεχνητή Νοημοσύνη από πολύ νωρίς. Το Βιετνάμ μόλις ξεκινάει αυτή την προσπάθεια, αλλά μπορούμε να επιταχύνουμε μαθαίνοντας και προσαρμοζόμενοι ανάλογα.

«Οι νέοι Βιετναμέζοι είναι πολύ δυναμικοί. Απλώς χρειάζεται να είναι πλήρως εκπαιδευμένοι σχετικά με την ψηφιακή υπευθυνότητα. Θα πρέπει να έχουμε ένα ενιαίο φορέα για να επιβεβαιώνει και να τυποποιεί την ποιότητα των δεδομένων και τα ηθικά πρότυπα. Η VinUni συμμετέχει επίσης στο συμβούλιο για την οικοδόμηση ενός συστήματος ηθικών προτύπων και θα συνεχίσει να συμβάλλει σε αυτή τη διαδικασία», είπε.

Αναπληρωτής Καθηγητής Luu Anh Tuan, Τεχνολογικό Πανεπιστήμιο Nanyang (Σιγκαπούρη), Πανεπιστήμιο VinUni (Βιετνάμ).

Σε απάντηση στη στρατηγική Άμεσων Ξένων Επενδύσεων (FDI) που στοχεύει στο Βιετνάμ να ηγηθεί της περιοχής στην Τεχνητή Νοημοσύνη έως το 2030, ο Αναπληρωτής Καθηγητής Tuan πιστεύει ότι το Βιετνάμ διαθέτει ανθρώπινο δυναμικό υψηλής ποιότητας - κάτι που αποδεικνύεται από τα διεθνή επιτεύγματα στα μαθηματικά, τη φυσική και τη χημεία. Αν γνωρίζουμε πώς να συγκεντρώσουμε δυνάμεις και να έχουμε ισχυρές πολιτικές, ο στόχος του 2030 μπορεί να επιτευχθεί πλήρως.

Ο καθηγητής Toby Walsh συνιστά στο Βιετνάμ να επενδύσει σε ανθρώπους και να βελτιώσει προληπτικά τις δεξιότητές τους, να διασφαλίσει ότι κατανοούν την Τεχνητή Νοημοσύνη· να υποστηρίξει τους επιχειρηματίες, τις επιχειρήσεις και τα πανεπιστήμια στον τομέα της Τεχνητής Νοημοσύνης. Αντί να περιμένουμε από άλλες χώρες να μεταφέρουν τεχνολογία ή να μας καθοδηγήσουν, πρέπει να είμαστε προνοητικοί και να κατακτήσουμε την τεχνολογία.

Επιπλέον, το Βιετνάμ πρέπει να κινητοποιήσει έντονα τις πλατφόρμες κοινωνικής δικτύωσης για να δημιουργήσει ένα ασφαλές περιβάλλον για τους εγχώριους χρήστες, χωρίς να επηρεαστεί η δημοκρατία της χώρας.

ΘΑΟ ΛΕ-ΘΙΕΝ ΛΑΜ

Πηγή: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html