Il "Padrino dell'IA" si esprime sullo scandalo sessuale che ha coinvolto Grok.

Lo scandalo sessuale che ha coinvolto Grok AI dimostra che il settore dell'intelligenza artificiale è "troppo fuori controllo", secondo Yoshua Bengio, soprannominato il "padrino dell'IA".

La diffusione capillare di immagini private e non consensuali sull'account social X di Elon Musk, generate dallo strumento di intelligenza artificiale Grok, ha destato allarme per la rapida crescita di questo settore tecnologico.

Yoshua Bengio, informatico pioniere, sostiene che le aziende tecnologiche stiano costruendo sistemi senza le dovute barriere tecniche e sociali.

Parlando al Guardian, Bengio ha affermato che, sebbene la situazione attuale non sia ancora completamente caotica, è necessario porvi rimedio immediatamente.

"Questo settore è fin troppo poco regolamentato. Le aziende pioniere dell'IA stanno costruendo sistemi sempre più potenti, ma mancano di garanzie di sicurezza, il che porta a evidenti impatti negativi sulle persone", ha affermato.

L'app Grok è stata bandita in due paesi ed è attualmente oggetto di indagine nel Regno Unito. Foto: PA

Questa dichiarazione giunge in concomitanza con la recente nomina dello storico Yuval Noah Harari e dell'ex CEO di Rolls-Royce, Sir John Rose, nel consiglio di amministrazione del suo laboratorio per la sicurezza dell'intelligenza artificiale.

Sotto la pressione dell'opinione pubblica e degli ambienti politici , la piattaforma di social media X ha annunciato di aver bloccato Grok, impedendogli di modificare foto di persone reali in abiti succinti come i bikini, anche per gli account a pagamento.

Secondo Bengio, parte della soluzione risiede in una migliore governance, che includa l'inserimento di individui eticamente integri nei consigli di amministrazione delle aziende.

Oltre a Harari e Rose, ha nominato Maria Eitel, fondatrice della Fondazione Nike, presidente del laboratorio di sicurezza LawZero, da lui istituito lo scorso anno.

Bengio è stato soprannominato il "padrino dell'IA" dopo aver ricevuto il Premio Turing nel 2018, un riconoscimento considerato il Premio Nobel del settore informatico. Ha condiviso questo onore con Geoffrey Hinton e Yann LeCun (presidente della divisione IA di Meta).

L'ex primo ministro svedese Stefan Löfven sarà il primo membro del consiglio consultivo globale dell'organizzazione. Nel frattempo, lo storico Harari, autore di * Sapiens: Da animali a dèi. Breve storia dell'umanità *, è una voce autorevole che spesso mette in guardia sullo sviluppo dell'intelligenza artificiale, più recentemente nel suo libro *Nexus*.

"Non si tratta solo di una discussione tecnica tra aziende pioniere nel campo dell'IA", ha sottolineato Bengio. "La questione sta nel capire quali scelte siano considerate eticamente corrette."

Attualmente professore di informatica all'Università di Montreal, Bengio ha raccolto 35 milioni di dollari (circa 26 milioni di sterline) per LawZero.

Questa organizzazione sta sviluppando un sistema chiamato Scientist AI, che opera in parallelo con sistemi autonomi – noti anche come agenti di intelligenza artificiale – per rilevare comportamenti potenzialmente dannosi.

Ha affermato che la struttura del consiglio di amministrazione è stata creata con l'idea di riunire persone di elevata moralità. Queste persone aiuteranno LawZero a rimanere fedele alla sua missione di fornire soluzioni di ingegneria di sistemi di intelligenza artificiale sicuri fin dalla fase di progettazione.

Il mese scorso, Bengio ha anche messo in guardia contro l'eccessiva responsabilizzazione dell'IA, sostenendo che la tecnologia sta mostrando segni di autoconservazione, una delle principali preoccupazioni per i sostenitori della sicurezza dell'IA. Ha sottolineato che agli esseri umani non dovrebbe essere impedito di "scollegare" questi sistemi, se necessario.

(Secondo il Guardian)

Due paesi vietano temporaneamente il chatbot Grok di Elon Musk : i governi indonesiano e malese hanno annunciato di aver bloccato temporaneamente l'accesso a Grok, un chatbot sviluppato da xAI di Elon Musk, a seguito della diffusione di immagini pornografiche.

Fonte: https://vietnamnet.vn/bo-gia-ai-len-tieng-ve-be-boi-anh-khieu-dam-cua-grok-2482400.html