Az OpenAI új modellje növeli a biofegyverek létrehozásának kockázatát

A modell azon képessége, hogy érveljen, összetett matematikai problémákat oldjon meg és tudományos kutatási kérdéseket válaszoljon meg, jelentős előrelépésnek tekinthető a mesterséges általános intelligencia (AGI) – az emberhez hasonló kognitív képességekkel rendelkező gépek – fejlesztésére irányuló erőfeszítésekben.

Az OpenAI azt nyilatkozta, hogy különösen „óvatos” azzal kapcsolatban, hogyan hozza nyilvánosságra az o1 modellt, tekintettel annak fejlett képességeire. Fotó: Getty Images

A Financial Times szerint az OpenAI „közepes” kockázatot értékelt a vegyi, biológiai, radiológiai és nukleáris (CBRN) fegyverekkel kapcsolatos problémák tekintetében, ami a vállalat által valaha is mért legmagasabb érték. Ez azt jelenti, hogy a technológia „jelentősen javította” a szakértők biológiai fegyverek létrehozásának képességét.

A részletes érvelésre képes mesterséges intelligencia szoftverek, különösen rosszindulatú szereplők kezében, növelhetik a visszaélések kockázatát, mondják a szakértők.

Yoshua Bengio professzor, a Montreali Egyetem világelső mesterséges intelligencia-tudósa hangsúlyozta, hogy ez a közepes kockázati szint sürgőssé teszi a mesterséges intelligencia szabályozását, például az SB 1047-et, amelyről jelenleg Kaliforniában viták folynak. Ez a törvényjavaslat előírja a mesterséges intelligencia gyártói számára, hogy intézkedéseket tegyenek annak kockázatának csökkentése érdekében, hogy modelljeiket biológiai fegyverek fejlesztésére használják fel.

A The Verge szerint a mesterséges intelligencia modelljeinek biztonsága és védelme komoly aggodalomra ad okot, mivel olyan technológiai vállalatok, mint a Google, a Meta és az Anthropic, versenyt futnak a fejlett mesterséges intelligencia rendszerek fejlesztéséért és fejlesztéséért.

Ezek a rendszerek nagy előnyökkel járhatnak az emberek feladatainak elvégzésében és számos területen való segítségnyújtásban, de kihívásokat is jelenthetnek a biztonság és a társadalmi felelősségvállalás szempontjából.

Cao Phong (az FT, a Reuters és a The Verge szerint)

Forrás: https://www.congluan.vn/openai-thua-nhan-moi-hinh-ai-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-post312337.html