Новий штучний інтелект може бути використаний для створення біологічної зброї.

Телефон показує інтерфейс для вивчення GPT-o1 від OpenAI - Фото: FINANCIAL TIMES

Згідно з повідомленням Financial Times від 13 вересня, OpenAI визнала, що її модель GPT-o1, запущена 12 вересня, «значно» збільшує ризик використання штучного інтелекту (ШІ) для створення біологічної зброї.

Документація OpenAI, яка пояснює принцип роботи GPT-o1, підтверджує, що нова модель має «середній рівень ризику» щодо проблем, пов’язаних з хімічною, біологічною, радіологічною та ядерною зброєю. Це найвищий рівень ризику, який OpenAI коли-небудь призначав своїм моделям штучного інтелекту.

За даними OpenAI, це означає, що GPT-o1 може «значно покращити» здатність експертів виготовляти біологічну зброю для нецільового використання.

Міра Мураті, головний технічний директор (CTO) OpenAI, сказала, що хоча GPT-o1 все ще перебуває на стадії тестування, розширені можливості цієї моделі вимагають від компанії бути надзвичайно «обережною» щодо своєї дорожньої карти для її виведення на публіку.

Пані Мураті також стверджувала, що модель була ретельно протестована багатопрофільною командою експертів. Цих людей найняла OpenAI для вивчення обмежень моделі, розробленої компанією.

Мураті поділився, що процес тестування показав, що модель GPT-o1 набагато краще відповідає загальним критеріям безпеки, ніж її попередники.

Крім того, представники OpenAI запевнили, що пробна версія GPT-o1 «безпечна для розгортання» і не може створювати ризики, складніші за ті, що вже розроблені технології.

Незважаючи на ці запевнення, значна частина наукової спільноти та ентузіасти штучного інтелекту залишаються здебільшого песимістично налаштованими щодо майбутнього цієї технології.

Зростає занепокоєння щодо занадто швидкого розвитку штучного інтелекту та випередження швидкості розробки та затвердження нормативних актів, що його регулюють.

Професор Йошуа Бенхіо, спеціаліст з інформатики в Монреальському університеті та один з провідних світових вчених у галузі штучного інтелекту, заявив, що якщо OpenAI наразі становить «середній ризик» хімічної та біологічної зброї, то «це лише підкреслює важливість і терміновість» нормативних актів, таких як гаряче обговорюваний у Каліфорнії законопроект, для регулювання цієї сфери.

Цей вчений наголосив, що ці інституції особливо необхідні в контексті того, що ШІ все більше наближається до рівня універсального штучного інтелекту (УШІ), який є здатністю міркувати нарівні з людьми.

«Чим ближче новаторські моделі штучного інтелекту підходять до загального штучного інтелекту (ЗШІ), тим більшими стають ризики, якщо не вжити належних запобіжних заходів. Покращення здатності ШІ до міркування та його потенційне використання для шахрайства надзвичайно небезпечні», – оцінив Бенджіо.

Джерело: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm