Noua inteligență artificială ar putea fi folosită pentru a crea arme biologice.

Telefonul prezintă interfața pentru a afla mai multe despre GPT-o1 al OpenAI - Foto: FINANCIAL TIMES

Conform Financial Times din 13 septembrie, OpenAI a recunoscut că modelul său GPT-o1, lansat pe 12 septembrie, crește „semnificativ” riscul ca inteligența artificială (IA) să fie exploatată pentru a crea arme biologice.

Documentația OpenAI care explică modul de funcționare a GPT-o1 confirmă că noul model are un „nivel de risc mediu” în ceea ce privește problemele legate de armele chimice, biologice, radiologice și nucleare. Acesta este cel mai înalt nivel de risc atribuit vreodată de OpenAI modelelor sale de inteligență artificială.

Conform OpenAI, aceasta înseamnă că GPT-o1 ar putea „îmbunătăți semnificativ” capacitatea experților de a fabrica arme biologice pentru utilizare abuzivă.

Mira Murati, director tehnic (CTO) al OpenAI, a declarat că, deși GPT-o1 este încă în faza de testare, capacitățile avansate ale acestui model impun companiei să fie extrem de „prudentă” în ceea ce privește foaia de parcurs pentru lansarea sa publică.

Dna Murati a afirmat, de asemenea, că modelul a fost testat temeinic de o echipă multidisciplinară de experți. Aceștia au fost angajați de OpenAI pentru a examina limitele modelului dezvoltat de companie.

Procesul de testare a arătat că modelul GPT-o1 a îndeplinit criteriile generale de siguranță mult mai bine decât predecesoarele sale, a declarat Murati.

În plus, reprezentanții OpenAI au dat asigurări că versiunea de probă GPT-o1 este „sigură pentru implementare” și nu poate crea riscuri mai complexe decât tehnologiile deja dezvoltate.

În ciuda acestor asigurări, o mare parte a comunității științifice și a entuziaștilor inteligenței artificiale rămân în mare parte pesimiști în ceea ce privește viitorul acestei tehnologii.

Îngrijorările legate de dezvoltarea prea rapidă a inteligenței artificiale și de depășirea vitezei cu care sunt elaborate și aprobate reglementările care o guvernează sunt în creștere.

Profesorul Yoshua Bengio, specialist în informatică la Universitatea din Montreal și unul dintre cei mai importanți oameni de știință din domeniul inteligenței artificiale din lume , a declarat că, dacă OpenAI prezintă în prezent un „risc mediu” pentru armele chimice și biologice, atunci „acest lucru nu face decât să întărească importanța și urgența” reglementărilor, cum ar fi proiectul de lege aprins dezbătut din California, care să guverneze acest domeniu.

Acest om de știință a subliniat că aceste instituții sunt deosebit de necesare în contextul în care IA se apropie din ce în ce mai mult de nivelul inteligenței artificiale universale (AGI), care este capacitatea de a raționa la egalitate cu oamenii.

„Cu cât modelele de inteligență artificială inovatoare se apropie mai mult de inteligența artificială generală, cu atât riscurile devin mai mari dacă nu se iau măsurile de precauție adecvate. Îmbunătățirea capacităților de raționament ale inteligenței artificiale și utilizarea sa potențială pentru fraudă sunt extrem de periculoase”, a evaluat Bengio.

Sursă: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm