Le nuove forme di intelligenza artificiale potrebbero essere utilizzate per creare armi biologiche.

Il telefono mostra l'interfaccia per imparare a usare GPT-o1 di OpenAI - Foto: FINANCIAL TIMES

Secondo quanto riportato dal Financial Times il 13 settembre, OpenAI ha ammesso che il suo modello GPT-o1, lanciato il 12 settembre, aumenta "significativamente" il rischio che l'intelligenza artificiale (IA) venga sfruttata per creare armi biologiche.

La documentazione di OpenAI che spiega il funzionamento di GPT-o1 conferma che il nuovo modello ha un "livello di rischio medio" per quanto riguarda le problematiche relative alle armi chimiche, biologiche, radiologiche e nucleari. Questo è il livello di rischio più alto che OpenAI abbia mai assegnato ai suoi modelli di intelligenza artificiale.

Secondo OpenAI, ciò significa che GPT-o1 potrebbe "migliorare significativamente" la capacità degli esperti di fabbricare armi biologiche da utilizzare in modo improprio.

Mira Murati, Chief Technology Officer (CTO) di OpenAI, ha affermato che, sebbene GPT-o1 sia ancora in fase di test, le capacità avanzate di questo modello impongono all'azienda di essere estremamente "cauta" riguardo alla sua roadmap per il lancio pubblico.

La signora Murati ha inoltre affermato che il modello era stato testato a fondo da un team multidisciplinare di esperti. Queste persone erano state ingaggiate da OpenAI per esaminare i limiti del modello sviluppato dall'azienda.

Il processo di test ha dimostrato che il modello GPT-o1 soddisfa i criteri generali di sicurezza molto meglio dei suoi predecessori, ha affermato Murati.

Inoltre, i rappresentanti di OpenAI hanno rassicurato che la versione di prova di GPT-o1 è "sicura per l'implementazione" e non può creare rischi più complessi di quelli delle tecnologie già sviluppate.

Nonostante queste rassicurazioni, una larga parte della comunità scientifica e degli appassionati di intelligenza artificiale rimane in gran parte pessimista sul futuro di questa tecnologia.

Crescono le preoccupazioni riguardo al fatto che l'intelligenza artificiale si sviluppi troppo rapidamente e a un ritmo più veloce rispetto alla velocità con cui vengono elaborate e approvate le normative che la regolano.

Il professor Yoshua Bengio, specialista in informatica presso l'Università di Montréal e uno dei massimi esperti mondiali di intelligenza artificiale, ha affermato che se OpenAI attualmente presenta un "rischio medio" di armi chimiche e biologiche, ciò "non fa che rafforzare l'importanza e l'urgenza" di regolamentazioni, come il disegno di legge molto dibattuto in California, per disciplinare questo settore.

Questo scienziato ha sottolineato che tali istituzioni sono particolarmente necessarie nel contesto di un'intelligenza artificiale che si avvicina sempre più al livello dell'intelligenza artificiale universale (AGI), ovvero la capacità di ragionare alla pari con gli esseri umani.

"Quanto più i modelli di IA pionieristici si avvicinano all'intelligenza artificiale generale (AGI), tanto maggiori diventano i rischi se non si prendono le dovute precauzioni. Il miglioramento delle capacità di ragionamento dell'IA e il suo potenziale utilizzo per scopi fraudolenti sono estremamente pericolosi", ha affermato Bengio.

Fonte: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm