Με τον ταχύ ρυθμό εξέλιξής της, η τεχνητή νοημοσύνη (ΤΝ) φέρνει επανάσταση σε πολλούς τομείς - από την υγειονομική περίθαλψη, την εκπαίδευση και τις επιχειρήσεις έως την καθημερινή ζωή. Ωστόσο, τα μειονεκτήματα αυτής της τεχνολογίας θέτουν σημαντικές προκλήσεις στη διαχείριση και τον έλεγχο των πληροφοριών στον κυβερνοχώρο.
Πλημμυρισμένος με ψεύτικες ειδήσεις που παράγονται από την Τεχνητή Νοημοσύνη.
Οι ψευδείς ειδήσεις που παράγονται από την Τεχνητή Νοημοσύνη διαδίδονται σε πλατφόρμες κοινωνικής δικτύωσης κυρίως για να κερδίσουν προβολές, likes και αλληλεπίδραση για διαδικτυακές πωλήσεις ή για να επωφεληθούν από την πλατφόρμα.
Όσοι δημιουργούν ψευδείς ειδήσεις συχνά εκμεταλλεύονται τα δημοφιλή τρέχοντα γεγονότα που προσελκύουν την προσοχή του κοινού. Για παράδειγμα, μετά το σοβαρό τροχαίο ατύχημα στις 17 Σεπτεμβρίου στην αγορά Tan Long, στην κοινότητα Lao Bao, στην επαρχία Quang Tri , το οποίο είχε ως αποτέλεσμα 12 θύματα, εμφανίστηκαν στα μέσα κοινωνικής δικτύωσης μερικές σπαρακτικές εικόνες, προκαλώντας δάκρυα σε πολλούς θεατές. Αναγνωρίζοντας αυτές τις εικόνες ως δημιουργημένες από την Τεχνητή Νοημοσύνη, η αστυνομία της κοινότητας Lao Bao εξέδωσε προειδοποίηση σχετικά με τη διάδοση αυτών των παραπλανητικών ψεύτικων εικόνων. Αυτή η συμπεριφορά όχι μόνο διαδίδει ψευδείς πληροφορίες, αλλά και εμποδίζει τις έρευνες.
Ομοίως, εκμεταλλευόμενοι την προσοχή του κοινού γύρω από την ανατροπή του τουριστικού σκάφους Green Bay 58 στον κόλπο Ha Long, στην επαρχία Quang Ninh στις 19 Ιουλίου, η οποία σκότωσε δεκάδες ανθρώπους, πολλοί λογαριασμοί κοινωνικών μέσων δημοσίευσαν συναισθηματικές εικόνες και ιστορίες για τα θύματα. Ωστόσο, ένα σημαντικό μέρος αυτού του περιεχομένου ήταν ψεύτικο, δημιουργημένο με χρήση τεχνητής νοημοσύνης για τον χειρισμό των συναισθημάτων και την προσέλκυση της αλληλεπίδρασης των χρηστών των κοινωνικών μέσων. Αξίζει να σημειωθεί ότι η ευρεία χρήση ψεύτικων εικόνων με υπερβολική συμπάθεια θα μπορούσε να τραυματίσει περαιτέρω τις οικογένειες των θυμάτων.
Με την τεχνολογία τεχνητής νοημοσύνης να βελτιώνεται συνεχώς, χρειάζονται μόνο λίγα λεπτά και απλές εντολές για να δημιουργήσετε ένα βίντεο με ενδιαφέρον περιεχόμενο που ταιριάζει απόλυτα με τις προθέσεις του χρήστη. Μεταξύ αυτών, οι πλατφόρμες τεχνητής νοημοσύνης επόμενης γενιάς όπως οι KlingAI, Veo 3 και Sora είναι ιδιαίτερα δημοφιλείς στους χρήστες παγκοσμίως, συμπεριλαμβανομένου του Βιετνάμ.
Επιπλέον, η τεχνολογία deepfake - ένας συνδυασμός βαθιάς μάθησης και ψεύτικης μάθησης - αποτελεί επίσης σημαντική ανησυχία παγκοσμίως, καθώς μπορεί να χρησιμοποιηθεί για τη δημιουργία εικόνων, ήχων ή βίντεο που φαίνονται τόσο αληθινά που είναι πολύ δύσκολο να εντοπιστούν ως ψεύτικα. Ως αποτέλεσμα, έχουν συμβεί πολυάριθμες απάτες που σχετίζονται με αυτήν την τεχνολογία τόσο στο Βιετνάμ όσο και σε όλο τον κόσμο.
Ο Αντιστράτηγος Nguyen Minh Chinh, Μόνιμος Αντιπρόεδρος της Εθνικής Ένωσης Κυβερνοασφάλειας, σημείωσε μια αυξανόμενη τάση κατάχρησης της Τεχνητής Νοημοσύνης για παράνομους σκοπούς. Συγκεκριμένα, η Τεχνητή Νοημοσύνη ως Υπηρεσία (εργαλεία και εφαρμογές που παρέχονται από την Τεχνητή Νοημοσύνη) αξιοποιείται από τους κυβερνοεγκληματίες για τη δημιουργία κακόβουλου λογισμικού, πλαστογραφημένων φωνών, προσώπων και κειμένου... για απάτες, κυβερνοεπιθέσεις, εισβολή σε συστήματα δεδομένων, ακόμη και για την αποσταθεροποίηση της ασφάλειας και τη βλάβη της φήμης οργανισμών, επιχειρήσεων και ηγετών.
Σύμφωνα με τον κ. Tran Ngoc Anh, Τεχνικό Διευθυντή της Hoa Binh Cyber Space Company Limited (CyPeace), ένας από τους κινδύνους για τους χρήστες Τεχνητής Νοημοσύνης είναι η πιθανότητα λήψης παραπληροφόρησης που παράγεται από το ίδιο το εργαλείο. Επιπλέον, υπάρχουν πολλά άλλα ζητήματα, όπως η διαρροή εμπιστευτικών πληροφοριών και προσωπικών δεδομένων.
Ψεύτικες εικόνες διαδίδονται στο διαδίκτυο για να «κάνουν τους θεατές να κλάψουν», κερδίζοντας έτσι likes και αυξάνοντας την αλληλεπίδραση (Στιγμιότυπο οθόνης).
Ενίσχυση της ευθύνης των χρηστών
Πριν από την εφαρμογή τεχνολογικών και νομικών μέτρων για τον αυστηρό έλεγχο της ανάπτυξης και χρήσης της Τεχνητής Νοημοσύνης, οι χρήστες πρέπει να χρησιμοποιούν προληπτικά αυτήν την τεχνολογία με υπευθυνότητα.
Ο ειδικός σε θέματα κυβερνοασφάλειας Vu Ngoc Son, επικεφαλής της Επιτροπής Τεχνολογίας του Εθνικού Συνδέσμου Κυβερνοασφάλειας, επεσήμανε ότι οι άνθρωποι είναι τα υποκείμενα που εκμεταλλεύονται και χρησιμοποιούν την Τεχνητή Νοημοσύνη, επομένως τόσο οι καλές όσο και οι κακές πτυχές της συνδέονται στενά με τους ανθρώπους. Εάν οι χρήστες είναι εξειδικευμένοι και την εφαρμόζουν για καλούς σκοπούς, η τεχνολογία θα αξιοποιήσει τα δυνατά της σημεία προς όφελός τους. Αντίθετα, εάν οι χρήστες της Τεχνητής Νοημοσύνης δεν την κατανοούν ή την εκμεταλλεύονται για παράνομους σκοπούς, αυτό μπορεί να προκαλέσει σοβαρές συνέπειες. «Για να χρησιμοποιήσετε και να αξιοποιήσετε αποτελεσματικά την Τεχνητή Νοημοσύνη, είναι απαραίτητο να επικεντρωθείτε στην οικοδόμηση μιας ομάδας και διαδικασιών. Η Τεχνητή Νοημοσύνη συνειδητοποιεί την αξία της μόνο όταν τίθεται στα χέρια εκείνων που ξέρουν πώς να την κατακτήσουν», δήλωσε ο ειδικός σε θέματα κυβερνοασφάλειας.
Δεδομένων των κινδύνων της τεχνολογίας deepfake – ενός κορυφαίου εργαλείου που διευκολύνει την τρέχουσα κυβερνοαπάτη – το Υπουργείο Οικονομικών τόνισε κατά τη σύνταξη του Νόμου για τις Επενδύσεις και τις Επιχειρήσεις ότι η επιχείρηση τεχνολογίας deepfake πρέπει να ρυθμιστεί ως υπό όρους επιχειρηματικός τομέας για την πρόληψη της κακής χρήσης της τεχνολογίας που προκαλεί διαταραχή της πληροφόρησης και απάτη. Σύμφωνα με το Υπουργείο Οικονομικών, η επιχείρηση τεχνολογίας deepfake είναι επί του παρόντος ένας από τους νέους τομείς με σύνθετους πιθανούς κινδύνους για την ασφάλεια και την τάξη, ωστόσο δεν ρυθμίζεται ως υπό όρους επιχειρηματικός τομέας.
Σύμφωνα με τον δικηγόρο Tran Anh Tuan (Δικηγορικός Σύλλογος Ανόι), η χρήση Τεχνητής Νοημοσύνης για τη δημιουργία περιεχομένου χωρίς άδεια, ιδίως για τη δημιουργία ψευδών, κατασκευασμένων ή δόλιων πληροφοριών, ενδέχεται να παραβιάζει τις διατάξεις του Αστικού Κώδικα. Οι παραβάτες ενδέχεται να αντιμετωπίσουν διοικητικές κυρώσεις ή αποζημίωση για ζημίες. Σε περιπτώσεις που προκαλούν σοβαρές συνέπειες, ενδέχεται να ασκηθεί ποινική ευθύνη. «Οι χρήστες πρέπει να είναι προσεκτικοί κατά την πρόσβαση και τη χρήση της Τεχνητής Νοημοσύνης, αποφεύγοντας απολύτως οποιεσδήποτε ενέργειες που εκμεταλλεύονται την Τεχνητή Νοημοσύνη για την απόκτηση προβολών ή επισημάνσεων «μου αρέσει». Θα πρέπει να ενισχύουν την προσωπική τους ευθύνη και να συμμορφώνονται με τον νόμο κατά τη χρήση της Τεχνητής Νοημοσύνης και τη συμμετοχή τους στο διαδικτυακό περιβάλλον», συμβούλεψε ο δικηγόρος Tuan.
Ο Αντιστράτηγος Nguyen Minh Chinh τόνισε ότι το βασικό στοιχείο στη βιώσιμη ανάπτυξη της Τεχνητής Νοημοσύνης είναι οι ανθρώπινοι πόροι. Από τους ερευνητές, τους μηχανικούς, τους ειδικούς στον κυβερνοχώρο έως τους διευθυντές και τους χρήστες, όλοι πρέπει να είναι πλήρως εξοπλισμένοι με γνώσεις, δεξιότητες, ηθική και νομική επίγνωση. Σύμφωνα με τον ίδιο, αυτή δεν είναι μόνο η ομάδα που κατασκευάζει και λειτουργεί συστήματα Τεχνητής Νοημοσύνης, αλλά και η βασική δύναμη στην πρόληψη, την ανίχνευση και την καταπολέμηση εγκλημάτων υψηλής τεχνολογίας στον κυβερνοχώρο.
Το Βιετνάμ θα θεσπίσει νόμο για την τεχνητή νοημοσύνη.
Σε πρόσφατο εθνικό επιστημονικό συνέδριο για την Τεχνητή Νοημοσύνη, ο Υπουργός Επιστήμης και Τεχνολογίας Nguyen Manh Hung δήλωσε ότι η Τεχνητή Νοημοσύνη ανοίγει μεγάλες ευκαιρίες, αλλά εγείρει επίσης πολλά ζητήματα σχετικά με την ηθική, την απασχόληση και την κοινωνική εμπιστοσύνη. Επομένως, η ανάπτυξη της Τεχνητής Νοημοσύνης πρέπει να είναι ταχεία, ασφαλής και ανθρώπινη.
Σύμφωνα με τον Υπουργό Nguyen Manh Hung, η Τεχνητή Νοημοσύνη δεν αντικαθιστά τους ανθρώπους, αλλά τους υπηρετεί, λειτουργώντας ως βοηθός τους. Η Τεχνητή Νοημοσύνη είναι ένα ισχυρό εργαλείο, αλλά οι άνθρωποι είναι αυτοί που λαμβάνουν αποφάσεις. Επομένως, η Τεχνητή Νοημοσύνη θα πρέπει να υποστηρίζει και όχι να αντικαθιστά την ανθρώπινη σκέψη, τις αξίες και τις ευθύνες. «Το Υπουργείο Επιστήμης και Τεχνολογίας θα εκδώσει έναν εθνικό κώδικα δεοντολογίας για την Τεχνητή Νοημοσύνη, ο οποίος θα είναι εναρμονισμένος με τα διεθνή πρότυπα, αλλά σχεδιασμένος ώστε να ταιριάζει στις βιετναμέζικες πραγματικότητες, και θα αναπτύξει επίσης έναν νόμο για την Τεχνητή Νοημοσύνη και μια στρατηγική για την Τεχνητή Νοημοσύνη», δήλωσε ο Υπουργός Nguyen Manh Hung.
Πηγή: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm
Σχόλιο (0)