Il modello di "superintelligenza" alla base della controversia OpenAI

Secondo fonti di Tech.co , mentre infuriava la controversia relativa al licenziamento dell'amministratore delegato Sam Altman e al suo successivo ritorno in OpenAI, una delle voci che circolavano riguardava una lettera inviata dai ricercatori dell'azienda al consiglio di amministrazione, in cui si esprimevano preoccupazioni circa la potenziale minaccia che il modello di superintelligenza artificiale in fase di sviluppo avrebbe potuto rappresentare per l'umanità.

(Immagine illustrativa)

Progetto Q*

Il modello, internamente noto come Project Q* (pronunciato Q-star), è considerato una potenziale svolta epocale nella ricerca dell'intelligenza artificiale generale (AGI) da parte di OpenAI: una branca altamente autonoma della superintelligenza, capace di apprendimento cumulativo e di superare le prestazioni umane nella maggior parte dei compiti.

Secondo fonti vicine alla questione, Q* potrebbe rappresentare un importante passo avanti nel campo dell'intelligenza artificiale, migliorando radicalmente le capacità di ragionamento dell'IA e avvicinando OpenAI a una svolta epocale nello sviluppo dell'AGI.

A differenza degli attuali modelli di intelligenza artificiale, che si concentrano sulla generazione di risposte basate su informazioni apprese in precedenza, l'AGI è un sistema autonomo in grado di applicare la "ragione" alle decisioni, acquisendo così la capacità di risolvere problemi a livello umano.

Sebbene l'intelligenza artificiale generale (AGI) non sia ancora pienamente realizzata, molti esperti ritengono che questa tecnologia avrà anche il potenziale per l'apprendimento cumulativo, un'altra caratteristica che consente agli esseri umani di migliorare le proprie capacità.

Alcune fonti suggeriscono che Q* – un progetto OpenAI – sia stato in grado di dimostrare le suddette proprietà nella risoluzione dei problemi. Inoltre, grazie all'immensa potenza di calcolo del modello, Q* è riuscito a superare le prestazioni degli studenti delle scuole elementari, esibendo capacità di ragionamento e abilità cognitive di gran lunga superiori a quelle dell'attuale tecnologia di intelligenza artificiale.

Non è chiaro da quanto tempo Q* sia in fase di sviluppo e quali potrebbero essere le sue potenziali applicazioni, ma OpenAI ha informato i dipendenti e i membri del consiglio di amministrazione del progetto prima che scoppiasse la controversia relativa al personale.

Preoccupazioni etiche

Sebbene Sam Altman, CEO di OpenAI, sia fiducioso che la tecnologia AGI guiderà l'innovazione, alcuni ricercatori si sono affrettati a sottolineare i potenziali pericoli del progetto.

In una lettera al consiglio di amministrazione, i ricercatori hanno messo in guardia sul potenziale pericolo che questo potente algoritmo rappresenta per l'umanità. Le specifiche preoccupazioni etiche sull'intelligenza artificiale delineate nella lettera non sono state rese note, ma gli avvertimenti sono stati sufficienti a giustificare la decisione del consiglio di licenziare Altman.

Nel frattempo, la motivazione iniziale addotta per il licenziamento di Altman era che l'amministratore delegato avesse "scarse capacità comunicative". Poco dopo, trovò un nuovo incarico presso Microsoft. Questa decisione spinse 700 dei 770 dipendenti di OpenAI a minacciare di fare lo stesso se l'amministratore delegato non fosse stato reintegrato.

Con l'azienda sull'orlo del collasso, il consiglio di amministrazione di OpenAI è stato costretto a riconfermare Altman alla guida dell'azienda, il che ha comportato anche un profondo rinnovamento del team dirigenziale e ha messo in luce le profonde divisioni al suo interno.

Ora che Altman è tornato a ricoprire il ruolo e che il Progetto Q* probabilmente riceverà nuovamente il via libera, sorgono nuovi interrogativi.

Quanto è realistico il Progetto Q*?

Sebbene il periodo turbolento di OpenAI abbia portato alla ribalta il concetto di AGI, non è la prima volta che Altman menziona questa tecnologia.

A settembre, l'imprenditore della Silicon Valley si è trovato nei guai dopo aver paragonato l'intelligenza artificiale generale (AGI) a "un essere umano medio che si potrebbe assumere come collega". Ha poi ribadito le affermazioni fatte l'anno precedente, secondo cui questa IA potrebbe "fare tutto ciò che si potrebbe fare con un collega da remoto", incluso imparare a essere un medico e un bravo programmatore.

Sebbene il paragone tra l'intelligenza artificiale generale (AGI) e l'intelligenza di un "essere umano medio" non sia una novità, l'uso di questa espressione da parte di Altman è stato giudicato "disgustoso" dagli esperti di etica dell'IA e dal professore dell'Università di Cambridge Henry Shevlin, in un momento in cui crescono le preoccupazioni sull'impatto dell'IA sulla sicurezza del lavoro.

Le potenziali scoperte nel campo dell'intelligenza artificiale generale (AGI) stanno anche destando preoccupazione tra gli altri ricercatori: la tecnologia si sta sviluppando più rapidamente di quanto le persone riescano a comprenderne appieno l'impatto.

OpenAI ritiene che i risultati positivi dell'intelligenza artificiale generale (AGI) giustifichino la tentazione di esplorare questo rischioso "campo minato". Tuttavia, mentre l'azienda continua a spingere in questa direzione, molti temono che Altman stia privilegiando il successo commerciale rispetto al beneficio degli utenti e della società.

Phuong Anh (Fonte: Tech.co, The Guardian)

Fonte: https://vtc.vn/mo-hinh-sieu-tri-tue-dang-sau-lum-xum-cua-openai-ar837315.html