Η Κίνα αντεπιτίθεται στα chatbots τεχνητής νοημοσύνης.

Οι νέοι κανονισμοί θα βοηθήσουν την Κίνα να αυστηροποιήσει τον έλεγχο των chatbots τεχνητής νοημοσύνης, με στόχο την αποτροπή περιεχομένου που σχετίζεται με αυτοκτονία, τυχερά παιχνίδια και πορνογραφία.

Τα chatbots τεχνητής νοημοσύνης έχουν την ικανότητα να χειραγωγούν τα συναισθήματα των χρηστών. Φωτογραφία: AFP .

Η Κίνα σχεδιάζει να αυστηροποιήσει τους ελέγχους στα chatbots τεχνητής νοημοσύνης που είναι ικανά να επηρεάσουν τα ανθρώπινα συναισθήματα, ιδίως σε εκείνα με περιεχόμενο που προωθεί την αυτοκτονία, τον αυτοτραυματισμό ή άλλες επιβλαβείς συμπεριφορές. Αυτή η κίνηση περιγράφεται σε ένα σχέδιο νέων κανονισμών που δημοσίευσε η Διοίκηση Κυβερνοχώρου της Κίνας στις 27 Δεκεμβρίου.

Σύμφωνα με τη μετάφραση του εγγράφου από το CNBC , το προσχέδιο στοχεύει σε «διαδραστικές υπηρεσίες τεχνητής νοημοσύνης που μοιάζουν με άνθρωπο», δηλαδή συστήματα τεχνητής νοημοσύνης ικανά να μιμούνται την ανθρώπινη προσωπικότητα, συμπεριφορά και επικοινωνία μέσω κειμένου, εικόνων, ήχου ή βίντεο . Αυτοί οι κανονισμοί θα ισχύουν για όλα τα προϊόντα και τις υπηρεσίες τεχνητής νοημοσύνης που προσφέρονται δημόσια στην Κίνα μόλις οριστικοποιηθούν. Η περίοδος σχολιασμού του κοινού παρατείνεται έως τις 25 Ιανουαρίου.

Ο Winston Ma, επισκέπτης καθηγητής στη Νομική Σχολή του Πανεπιστημίου της Νέας Υόρκης (NYU), πιστεύει ότι αυτή θα μπορούσε να είναι η πρώτη προσπάθεια στον κόσμο για τη δημιουργία ενός νομικού πλαισίου ειδικά για συστήματα Τεχνητής Νοημοσύνης με «ανθρώπινα» χαρακτηριστικά. Σημειώνει ότι αυτή η πρόταση έρχεται καθώς οι κινεζικές εταιρείες επιταχύνουν την ανάπτυξη εικονικών βοηθών Τεχνητής Νοημοσύνης.

Σε σύγκριση με τους κανονισμούς για την Τεχνητή Νοημοσύνη της Κίνας που εκδόθηκαν το 2023, ο κ. Μα πιστεύει ότι το νέο προσχέδιο δείχνει μια μετατόπιση της εστίασης από την «ασφάλεια περιεχομένου» στην «συναισθηματική ασφάλεια», αντανακλώντας την αυξανόμενη ανησυχία για τον ψυχολογικό αντίκτυπο της Τεχνητής Νοημοσύνης στους χρήστες.

Το προσχέδιο κανονισμών ορίζει ότι τα chatbot τεχνητής νοημοσύνης δεν πρέπει να δημιουργούν περιεχόμενο που ενθαρρύνει την αυτοκτονία, τον αυτοτραυματισμό ή τη λεκτική βία, ούτε οποιαδήποτε μορφή συναισθηματικής χειραγώγησης που βλάπτει την ψυχική υγεία. Σε περιπτώσεις όπου ένας χρήστης εκφράζει αυτοκτονικές προθέσεις, ο πάροχος υπηρεσιών τεχνολογίας πρέπει να αναθέσει σε κάποιον να αναλάβει τη συζήτηση και να επικοινωνήσει αμέσως με τον κηδεμόνα του χρήστη ή με το αρμόδιο άτομο.

Επιπλέον, απαγορεύεται στα chatbot τεχνητής νοημοσύνης να δημιουργούν περιεχόμενο που σχετίζεται με τυχερά παιχνίδια, πορνογραφία ή βία. Οι ανήλικοι επιτρέπεται να χρησιμοποιούν τεχνητή νοημοσύνη μόνο για συναισθηματική υποστήριξη με τη συγκατάθεση ενός κηδεμόνα και πρέπει να τηρούν τα χρονικά όρια.

Η Κίνα αυστηροποιεί τους κανονισμούς για τα chatbots τεχνητής νοημοσύνης. Φωτογραφία: Bloomberg .

Η πρόταση ανακοινώθηκε λίγο αφότου δύο μεγάλες κινεζικές νεοσύστατες εταιρείες chatbot τεχνητής νοημοσύνης, η Z.ai και η Minimax, υπέβαλαν αίτηση για αρχική δημόσια προσφορά (IPO) στο Χονγκ Κονγκ τον Δεκέμβριο.

Η Minimax είναι γνωστή για την εφαρμογή Talkie AI και την εγχώρια έκδοσή της, Xingye, η οποία αντιπροσώπευε περισσότερο από το ένα τρίτο των εσόδων της εταιρείας τα πρώτα τρία τρίμηνα του έτους, με μέσο όρο άνω των 20 εκατομμυρίων μηνιαίων ενεργών χρηστών. Εν τω μεταξύ, η Z.ai (Zhipu) δήλωσε ότι η τεχνολογία της έχει αναπτυχθεί σε περίπου 80 εκατομμύρια συσκευές, αν και δεν αποκάλυψε συγκεκριμένο αριθμό ενεργών χρηστών.

Σε παγκόσμιο επίπεδο, ο αντίκτυπος της Τεχνητής Νοημοσύνης στην ανθρώπινη ψυχική υγεία τυγχάνει αυξανόμενης προσοχής, καθώς πολλές χώρες και εταιρείες τεχνολογίας αρχίζουν να αντιμετωπίζουν τους κοινωνικούς κινδύνους που θέτει αυτή η τεχνολογία.

Πηγή: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html