Το OpenAI λανσάρει λειτουργία παρακολούθησης παιδιών στο ChatGPT μετά από πολλές διαμάχες

Μετά από πολλή διαμάχη σχετικά με την ασφάλεια της τεχνητής νοημοσύνης σε ανηλίκους, το OpenAI πρόσθεσε επίσημα ένα εργαλείο ελέγχου παιδιών στο ChatGPT.

Η λειτουργία παρακολούθησης παιδιών στο ChatGPT βοηθά επίσης τους γονείς να αισθάνονται πιο ασφαλείς όταν επιτρέπουν στα παιδιά τους να χρησιμοποιούν τεχνητή νοημοσύνη.

Το επερχόμενο εργαλείο παρακολούθησης παιδιών ChatGPT θεωρείται ως μια αλλαγή ασφαλείας από το OpenAI μετά από μια αγωγή υψηλού προφίλ. Η λειτουργία στοχεύει στη μείωση του κινδύνου συνομιλίας παιδιών με chatbots, ενώ παράλληλα εγείρει ερωτήματα σχετικά με την κοινωνική ευθύνη των εταιρειών τεχνητής νοημοσύνης.

Από την σοκαριστική αγωγή

Τον περασμένο Αύγουστο, η οικογένεια του Άνταμ Ρέιν, ενός 16χρονου αγοριού από την Καλιφόρνια, κατέθεσε αγωγή κατά του OpenAI, ισχυριζόμενη ότι το ChatGPT παρείχε οδηγίες αυτοτραυματισμού και λεκτική κακοποίηση που άφησαν τον γιο τους να νιώθει απελπισμένος πριν αυτοκτονήσει.

Η αγωγή προκάλεσε γρήγορα σάλο και άνοιξε μια συζήτηση σχετικά με την ασφάλεια της τεχνητής νοημοσύνης για τους νεαρούς χρήστες.

Αυτό εγείρει σημαντικά ερωτήματα: θα πρέπει οι ανήλικοι να χρησιμοποιούν το ChatGPT χωρίς επίβλεψη και πώς θα πρέπει να καθορίζεται η ευθύνη των προγραμματιστών τεχνητής νοημοσύνης όταν το προϊόν επηρεάζει άμεσα την ψυχολογία των νεαρών χρηστών;

Απαντώντας σε αυτή την πίεση, η OpenAI ανακοίνωσε την προσθήκη γονικού ελέγχου, ένα πρώτο βήμα προς την επίδειξη της δέσμευσής της στην προστασία των παιδιών και σηματοδοτώντας ότι η εταιρεία είναι πρόθυμη να θέσει την ασφάλεια ως προτεραιότητα στην επόμενη φάση ανάπτυξης του ChatGPT.

Λειτουργίες παρακολούθησης στο ChatGPT

Σύμφωνα με την επίσημη ανακοίνωση, το OpenAI θα κυκλοφορήσει ένα εργαλείο που επιτρέπει στους γονείς να συνδέουν τους λογαριασμούς τους με τους λογαριασμούς ChatGPT των παιδιών τους. Μόλις ενεργοποιηθεί, οι γονείς μπορούν να διαχειριστούν σημαντικές ρυθμίσεις, όπως η απενεργοποίηση του χώρου αποθήκευσης συνομιλίας, ο έλεγχος του ιστορικού χρήσης και η προσαρμογή των επιπέδων αλληλεπίδρασης ανάλογα με την ηλικία.

Το αποκορύφωμα αυτής της καινοτομίας είναι το σύστημα ειδοποίησης. Το ChatGPT θα εκπαιδευτεί ώστε να αναγνωρίζει πότε οι νεαροί χρήστες εμφανίζουν σημάδια ψυχολογικής κρίσης, όπως άγχος, κατάθλιψη ή αυτοτραυματισμό. Σε αυτές τις περιπτώσεις, οι γονείς θα λαμβάνουν ειδοποιήσεις για να παρέμβουν άμεσα. Η OpenAI ισχυρίζεται ότι ο στόχος δεν είναι η παρακολούθηση ολόκληρης της συνομιλίας, αλλά η εστίαση σε καταστάσεις έκτακτης ανάγκης για την προστασία της ασφάλειας των παιδιών.

Επιπλέον, όταν ανιχνεύεται ευαίσθητο περιεχόμενο, το ChatGPT θα μεταβαίνει σε λειτουργία με μοντέλα βαθιάς συλλογιστικής, τα οποία έχουν σχεδιαστεί για να παρέχουν πιο στοχαστικές και υποστηρικτικές απαντήσεις. Παράλληλα, η εταιρεία συνεργάζεται επίσης με ιατρικούς εμπειρογνώμονες και μια διεθνή συμβουλευτική επιτροπή για να συνεχίσει να βελτιώνει τις προστασίες της στο μέλλον.

Οι προκλήσεις που τίθενται

Ενώ η OpenAI έχει τονίσει ότι η νέα λειτουργία έχει σχεδιαστεί για να ωφελήσει τις οικογένειες, η διεθνής αντίδραση ήταν ανάμεικτη. Το εργαλείο αναμένεται να προσθέσει ένα επίπεδο προστασίας για τους γονείς καθώς τα παιδιά τους αλληλεπιδρούν με την τεχνητή νοημοσύνη, αλλά έχει επίσης εγείρει μακροχρόνιες ανησυχίες, από τα όρια χρήσης έως το απόρρητο των δεδομένων των παιδιών.

Στην πραγματικότητα, οι ειδικοί έχουν εκφράσει ανησυχίες σχετικά με το απόρρητο των δεδομένων των παιδιών εδώ και χρόνια. Αυτές οι προειδοποιήσεις υπογραμμίζουν ότι η αποθήκευση και η ανάλυση του ιστορικού συνομιλιών των παιδιών, χωρίς αυστηρές προστασίες, μπορεί να αυξήσει τον κίνδυνο έκθεσης ευαίσθητων πληροφοριών. Η εμφάνιση εργαλείων παρακολούθησης στο ChatGPT έχει φέρει ξανά το ζήτημα στο προσκήνιο.

Ένα άλλο σημείο που συζητήθηκε ήταν το όριο προειδοποίησης του συστήματος. Η OpenAI ανέφερε ότι το ChatGPT θα ανιχνεύει σημάδια σοβαρού στρες και θα στέλνει ειδοποίηση στους γονείς.

Ωστόσο, η μηχανική μάθηση ενέχει πάντα τον κίνδυνο μεροληψίας. Εάν το σύστημα δώσει ψευδή συναγερμό, οι γονείς ενδέχεται να μπερδευτούν άσκοπα. Αντίθετα, εάν χάσει ένα σήμα, τα παιδιά ενδέχεται να αντιμετωπίσουν κινδύνους στους οποίους η οικογένεια δεν μπορεί να παρέμβει έγκαιρα.

Διεθνείς οργανισμοί προστασίας παιδιών παρακολουθούν επίσης στενά την κίνηση της OpenAI, αναγνωρίζοντας το εργαλείο γονικού ελέγχου ως θετικό σημάδι, αλλά προειδοποιώντας ότι η έλλειψη αυστηρής επαλήθευσης ηλικίας και προεπιλεγμένων προστασιών σημαίνει ότι τα παιδιά εξακολουθούν να αντιμετωπίζουν κινδύνους, ακόμη και με γονική επίβλεψη.

Αυτές οι συζητήσεις δείχνουν ότι η ανάπτυξη της τεχνητής νοημοσύνης δεν είναι μόνο μια τεχνολογική ιστορία, αλλά συνδέεται στενά και με την κοινωνική ευθύνη και την ασφάλεια της νεότερης γενιάς.

ΘΑΝ ΠΕΜ

Πηγή: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm