Noul model OpenAI crește riscul creării de arme biologice

Capacitatea modelului de a raționa, de a rezolva probleme matematice complexe și de a răspunde la întrebări de cercetare științifică este considerată un pas major înainte în efortul de a dezvolta inteligența artificială generală (AGI) - mașini cu abilități cognitive asemănătoare oamenilor.

OpenAI a declarat că a fost deosebit de „precaută” în ceea ce privește modul în care a adus modelul o1 publicului, având în vedere capacitățile sale avansate. Foto: Getty Images

Conform Financial Times, OpenAI a evaluat riscul acestor noi modele ca fiind „mediu” pentru problemele legate de armele chimice, biologice, radiologice și nucleare (CBRN), cel mai ridicat nivel evaluat vreodată de companie. Aceasta înseamnă că tehnologia a „îmbunătățit semnificativ” capacitatea experților de a crea arme biologice.

Experții spun că software-ul de inteligență artificială capabil de raționament detaliat, în special în mâinile unor răufăcători, poate crește riscul de abuz.

Profesorul Yoshua Bengio, un om de știință de renume mondial în domeniul inteligenței artificiale de la Universitatea din Montreal, a subliniat că acest nivel mediu de risc sporește urgența reglementărilor privind inteligența artificială, cum ar fi SB 1047, dezbătută în prezent în California. Acest proiect de lege impune producătorilor de inteligență artificială să ia măsuri pentru a reduce riscul ca modelele lor să fie utilizate în mod abuziv pentru a dezvolta arme biologice.

Conform The Verge, securitatea și siguranța modelelor de inteligență artificială au devenit o preocupare majoră, deoarece companiile de tehnologie precum Google, Meta și Anthropic se întrec în a construi și îmbunătăți sisteme avansate de inteligență artificială.

Aceste sisteme au potențialul de a aduce beneficii considerabile în a ajuta oamenii să îndeplinească sarcini și să ofere asistență într-o varietate de domenii, dar prezintă și provocări în ceea ce privește siguranța și responsabilitatea socială.

Cao Phong (conform FT, Reuters, The Verge)

Sursă: https://www.congluan.vn/openai-thua-nhan-moi-hinh-ai-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-post312337.html