Gli orsacchiotti di peluche, un tempo i "migliori amici" nell'immaginario dei bambini, ora possono conversare grazie a chatbot basati sull'intelligenza artificiale. Il mercato dei giocattoli sta entrando in una nuova era, ma ciò comporta anche seri rischi.
I chatbot rappresentano già un rischio per gli adulti, che va dall'induzione di allucinazioni alla diffusione di disinformazione. Il modello GPT-4o di OpenAI è attualmente utilizzato da molti produttori di giocattoli, ma l'impiego di LLM in prodotti per bambini solleva una serie di interrogativi sul livello di protezione che i produttori devono implementare.
Nel frattempo, il mercato dei giocattoli basati sull'intelligenza artificiale in Cina è in piena espansione, con oltre 1.500 aziende, e molti prodotti sono già arrivati negli Stati Uniti. Anche Mattel, la produttrice delle bambole Barbie, ha recentemente annunciato una partnership con OpenAI.
I giocattoli basati sull'intelligenza artificiale e il rischio di "comportamenti devianti"
A differenza dell'orsacchiotto degli anni '80, i giocattoli con intelligenza artificiale di oggi si connettono tramite Wi-Fi, registrano le domande utilizzando i microfoni e usano il modello LLM per generare risposte in tempo reale.
Prodotti come il peluche Grok di Curio, il robot Miko, l'orso narratore di Poe o l'animale domestico robot Loona sono tutti in grado di parlare, coinvolgendo i bambini in una comunicazione interattiva continua.
Tuttavia, non è esente da rischi. Un esempio sconvolgente è rappresentato dall'orso Kumma di FoloToy (Singapore), che utilizza GPT-4o e viene venduto a 99 dollari.
Secondo un rapporto del PIRG (USA), l'orso Kumma "indicava oggetti pericolosi" e si impegnava persino in conversazioni "a sfondo sessuale".
In seguito, OpenAI ha sospeso FoloToy per aver violato la sua politica che vieta "lo sfruttamento, il danno o la sessualizzazione di chiunque abbia meno di 18 anni".
L'amministratore delegato Larry Wang ha dichiarato alla CNN che l'azienda aveva ritirato il prodotto dal mercato e condotto un'indagine interna. Tuttavia, pochi giorni dopo, FoloToy ha annunciato su X che il prodotto era stato "reintrodotto dopo una revisione e un miglioramento del modulo di sicurezza".
FoloToy è stata costretta a ritirare temporaneamente dal mercato il suo peluche Kumma, dotato di intelligenza artificiale, e altri prodotti a causa di preoccupazioni relative a possibili conversazioni potenzialmente dannose con i bambini piccoli. (Immagine: Folotoy)
Secondo il professor Subodha Kumar della Temple University, la maggior parte dei giocattoli dotati di intelligenza artificiale non utilizza un singolo sistema LLM (Low-Low Risk Management), ma li combina per ridurre il rischio. Tuttavia, secondo PIRG, possono ancora suggerire la posizione di oggetti pericolosi se interrogati "eccessivamente".
L'esperto di giocattoli Chris Byrne definisce queste risposte distorte uno "scenario apocalittico" per i giocattoli con intelligenza artificiale, sebbene non tutti i prodotti causeranno problemi.
I giocattoli basati sull'intelligenza artificiale vengono sottoposti a "barriere di sicurezza"?
PIRG osserva che molti giocattoli basati sull'intelligenza artificiale non sono ancora pronti per un utilizzo diffuso perché creano dipendenza, forniscono risposte incoerenti e sono più orientati alla compagnia sociale che all'apprendimento .
Tuttavia, alcuni prodotti dispongono di meccanismi per reindirizzare i contenuti quando i bambini pongono domande delicate, o per adattare i contenuti in base all'età.
Il robot Miko 3 è dotato di un'app complementare che consente ai genitori di bloccare il dispositivo o visualizzare i registri delle conversazioni in tempo reale. Anche il peluche Grok offre funzionalità di monitoraggio integrate nell'app, che permettono ai genitori di impostare limiti comportamentali.
"L'idea migliore è che i genitori possano stabilire i propri limiti, controllando il contenuto e il comportamento dei bambini quando usano i giocattoli", ha affermato RJ Cross, esperto di PIRG.
Inoltre, sussistono preoccupazioni in materia di privacy. Nel 2015, la bambola Hello Barbie ha suscitato polemiche perché dotata di microfono, connettività Wi-Fi e in grado di registrare le conversazioni.
Oggi, i giocattoli dotati di intelligenza artificiale possono anche memorizzare dati sensibili come il nome, il volto, la voce o la posizione di un bambino. "I giocattoli con intelligenza artificiale sono come 'lupi travestiti da agnelli', perché è difficile capire quanta privacy si stia perdendo", avverte Azhelle Wade, fondatrice della società di consulenza Toy Coach.
Il professor Kumar ha sottolineato che i dati dei bambini potrebbero essere esposti in caso di fughe di dati o attacchi informatici, pur riconoscendo che i giocattoli basati sull'intelligenza artificiale possono essere d'aiuto nell'apprendimento del linguaggio e nello sviluppo delle capacità comunicative.
(Secondo la CNN)
La formula 3T affronta il problema delle "menti vuote" e del declino cognitivo causato dall'IA: in mezzo all'esplosione degli strumenti di intelligenza artificiale (IA), molti esperti temono che i giovani utenti stiano perdendo il pensiero critico e le competenze fondamentali, un fenomeno noto come "menti vuote". Per affrontare questo problema, è fondamentale padroneggiare l'IA anziché esserne manipolati.
Fonte: https://vietnamnet.vn/gau-bong-do-choi-ai-co-an-toan-cho-tre-em-2468598.html
![[Foto] Tran Cam Tu, membro del Comitato permanente del Comitato centrale del Partito, al lavoro con il Comitato centrale di ispezione.](https://vphoto.vietnam.vn/thumb/1200x675/vietnam/resource/IMAGE/2026/05/28/1779969579668_ndo_br_bnd-2495-jpg.webp)
Commento (0)