Πόσο καλά γνωρίζετε την Τεχνητή Νοημοσύνη; Ακολουθούν 7 όροι που πρέπει να γνωρίζετε

Η ραγδαία ανάπτυξη της τεχνητής νοημοσύνης (ΤΝ) έχει εγείρει ανησυχίες ότι εξελίσσεται ταχύτερα από ό,τι οι άνθρωποι μπορούν να κατανοήσουν τον αντίκτυπό της.

Φωτογραφία: ST

Η χρήση της γενικής τεχνητής νοημοσύνης έχει αυξηθεί σημαντικά μετά την εμφάνιση εργαλείων όπως το ChatGPT. Ενώ αυτά τα εργαλεία έχουν πολλά οφέλη, μπορούν επίσης να χρησιμοποιηθούν λανθασμένα με επιβλαβείς τρόπους.

Για τη διαχείριση αυτού του κινδύνου, οι ΗΠΑ και αρκετές άλλες χώρες έχουν εξασφαλίσει συμφωνίες με επτά εταιρείες, συμπεριλαμβανομένων των Amazon, Anthropic, Google, Inflection, Meta, Microsoft και OpenAI, για να δεσμευτούν σε ασφαλείς πρακτικές στην ανάπτυξη τεχνολογίας τεχνητής νοημοσύνης.

Η ανακοίνωση του Λευκού Οίκου συνοδεύεται από τη δική της ορολογία που μπορεί να μην είναι γνωστή στον μέσο άνθρωπο, με όρους όπως «κόκκινη ομάδα» και «υδατογράφημα». Ακολουθούν επτά όροι που σχετίζονται με την Τεχνητή Νοημοσύνη και πρέπει να προσέξετε.

Μηχανική μάθηση

Αυτός ο κλάδος της Τεχνητής Νοημοσύνης στοχεύει στην εκπαίδευση μηχανών ώστε να εκτελούν μια συγκεκριμένη εργασία με ακρίβεια, εντοπίζοντας μοτίβα. Στη συνέχεια, η μηχανή μπορεί να κάνει προβλέψεις με βάση αυτά τα δεδομένα.

Βαθιά μάθηση

Οι δημιουργικές εργασίες τεχνητής νοημοσύνης συχνά βασίζονται στη βαθιά μάθηση, μια μέθοδο που περιλαμβάνει την εκπαίδευση υπολογιστών χρησιμοποιώντας νευρωνικά δίκτυα, ένα σύνολο αλγορίθμων που έχουν σχεδιαστεί για να μιμούνται τους νευρώνες στον ανθρώπινο εγκέφαλο, ώστε να δημιουργούν σύνθετες συνδέσεις μεταξύ μοτίβων για τη δημιουργία κειμένου, εικόνων ή άλλου περιεχομένου.

Επειδή τα μοντέλα βαθιάς μάθησης έχουν πολλαπλά επίπεδα νευρώνων, μπορούν να μάθουν πιο σύνθετα μοτίβα από την παραδοσιακή μηχανική μάθηση.

Μεγάλο γλωσσικό μοντέλο

Ένα μεγάλο γλωσσικό μοντέλο, ή LLM, εκπαιδεύεται σε τεράστιες ποσότητες δεδομένων και στοχεύει στη μοντελοποίηση της γλώσσας ή στην πρόβλεψη της επόμενης λέξης σε μια ακολουθία. Μεγάλα γλωσσικά μοντέλα, όπως το ChatGPT και το Google Bard, μπορούν να χρησιμοποιηθούν για εργασίες όπως η σύνοψη, η μετάφραση και η συνομιλία.

Αλγόριθμος

Ένα σύνολο οδηγιών ή κανόνων που επιτρέπουν στις μηχανές να κάνουν προβλέψεις, να λύνουν προβλήματα ή να ολοκληρώνουν εργασίες. Οι αλγόριθμοι μπορούν να παρέχουν προτάσεις αγορών και να βοηθούν στην ανίχνευση απάτης και στις λειτουργίες συνομιλίας εξυπηρέτησης πελατών.

Προκατάληψη

Επειδή η Τεχνητή Νοημοσύνη εκπαιδεύεται χρησιμοποιώντας μεγάλα σύνολα δεδομένων, μπορεί να ενσωματώσει επιβλαβείς πληροφορίες στα δεδομένα, όπως ρητορική μίσους. Ρατσισμός και σεξισμός μπορούν επίσης να εμφανιστούν στα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση της Τεχνητής Νοημοσύνης, οδηγώντας σε παραπλανητικό περιεχόμενο.

Οι εταιρείες τεχνητής νοημοσύνης συμφώνησαν να εμβαθύνουν στον τρόπο αποφυγής επιβλαβών προκαταλήψεων και διακρίσεων στα συστήματα τεχνητής νοημοσύνης.

Κόκκινη ομάδα

Μία από τις δεσμεύσεις που έχουν αναλάβει οι εταιρείες προς τον Λευκό Οίκο είναι η διεξαγωγή «κόκκινης συνεργασίας» εσωτερικά και εξωτερικά σε μοντέλα και συστήματα Τεχνητής Νοημοσύνης.

Η «κόκκινη ομαδοποίηση» περιλαμβάνει τη δοκιμή ενός μοντέλου για την αποκάλυψη πιθανών τρωτών σημείων. Ο όρος προέρχεται από μια στρατιωτική πρακτική όπου μια ομάδα προσομοιώνει τις ενέργειες ενός εισβολέα για να καταλήξει σε στρατηγικές.

Αυτή η μέθοδος χρησιμοποιείται ευρέως για τον έλεγχο τρωτών σημείων ασφαλείας σε συστήματα όπως πλατφόρμες cloud computing από εταιρείες όπως η Microsoft και η Google.

Υδατογράφημα

Ένα υδατογράφημα είναι ένας τρόπος για να διαπιστώσετε εάν ένας ήχος ή μια εικόνα δημιουργήθηκε από τεχνητή νοημοσύνη. Τα στοιχεία που ελέγχονται για επαλήθευση μπορούν να περιλαμβάνουν πληροφορίες σχετικά με το ποιος το δημιούργησε, καθώς και πώς και πότε δημιουργήθηκε ή επεξεργάστηκε.

Για παράδειγμα, η Microsoft έχει δεσμευτεί να υδατογραφήσει εικόνες που δημιουργούνται από τα εργαλεία τεχνητής νοημοσύνης της. Οι εταιρείες έχουν επίσης δεσμευτεί στον Λευκό Οίκο να υδατογραφήσουν εικόνες ή να καταγράψουν την προέλευσή τους, ώστε να τις αναγνωρίσουν ως δημιουργημένες από τεχνητή νοημοσύνη.

Τα υδατογραφήματα χρησιμοποιούνται επίσης συχνά για την παρακολούθηση παραβιάσεων πνευματικής ιδιοκτησίας. Τα υδατογραφήματα για εικόνες που δημιουργούνται από τεχνητή νοημοσύνη μπορούν να εμφανίζονται ως ανεπαίσθητος θόρυβος, όπως μια μικρή αλλαγή κάθε έβδομο pixel.

Ωστόσο, η προσθήκη υδατογραφήματος σε κείμενο που δημιουργείται από τεχνητή νοημοσύνη μπορεί να είναι πιο περίπλοκη και μπορεί να περιλαμβάνει τροποποίηση του προτύπου λέξεων, ώστε να μπορεί να αναγνωριστεί ως περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη.

Χόανγκ Τον (σύμφωνα με τον Πόιντερ)

Πηγή: https://www.congluan.vn/ban-hieu-ai-den-muc-nao-duoi-day-la-7-thuat-ngu-can-biet-post260123.html