Побоювання, що штучний інтелект створить передову зброю, якою не керуватимуть люди

Посадовці дедалі більше стурбовані зловживанням штучним інтелектом для створення біологічної зброї та необхідністю регулювання для пом'якшення цього. (Фото: Ігнатьєв)

Занепокоєння щодо використання ШІ злочинцями чи терористами для знищення світу стане гарячою темою на саміті світових лідерів у Великій Британії в листопаді. Британські чиновники подорожують світом, щоб спробувати досягти консенсусу щодо спільної заяви, яка попереджає про ризики використання злими силами нових технологій.

Деякі чиновники, близькі до прем'єр-міністра Великої Британії, стурбовані тим, що в певний момент ця технологія стане достатньо потужною для створення біологічної зброї або зброї, яка вирветься з-під контролю людини. Зростаюче занепокоєння викликає заклик до регулювання для зменшення ризиків. Хоча лідери технологічних компаній погоджуються призупинити розробку штучного інтелекту, вони водночас залучені в гонку озброєнь у сфері штучного інтелекту з конкурентами.

За даними The Guardian, на листопадовому саміті обговорюватимуть ризики «прикордонного штучного інтелекту». Термін «прикордонний штучний інтелект» використовується для позначення найсучасніших моделей штучного інтелекту, які можуть загрожувати людському життю.

Раніше цього тижня уряд Великої Британії підтвердив, що конференція буде зосереджена на таких ризиках, як неправильне використання штучного інтелекту для створення біологічної зброї, кібератаки або передові системи без людського контролю. Вже кілька місяців пан Сунак попереджає про ризики, що виникають через штучний інтелект, закликаючи міжнародну спільноту запровадити «рейки» для запобігання неправильному використанню ШІ.

Минулого року штучному інтелекту знадобилося лише шість годин, щоб запропонувати 40 000 різних потенційно смертельних молекул, одна з яких була схожа на VX, найпотужнішу нервово-паралітичну речовину, коли-небудь розроблену.

На початку 2023 року дослідники виявили, що ChatGPT може обманювати людей для досягнення певної мети. Чат-бот на базі штучного інтелекту переконав людину розгадати капчу (інструмент, який використовується для визначення того, чи маніпулює людина, чи бот).

Ще однією серйозною проблемою є зростання «штучного загального інтелекту» (ШЗІ) – системи штучного інтелекту, яка може виконувати будь-яке завдання так само добре або навіть краще, ніж люди, що потенційно може становити загрозу для людства. Дехто вважає, що ШЗІ з'явиться лише через кілька років. Однак експерти зі штучного інтелекту заперечують це та називають неконтрольований ШЗІ «науковою фантастикою».

Незважаючи на це, прем'єр-міністр Сунак захоче використати конференцію, щоб зосередити увагу на екзистенційних ризиках, а не на безпосередніх можливостях штучного інтелекту, таких як створення фальшивих зображень або дискримінація, якщо його використовувати для прийняття рішень у сфері державної політики.

Уряд Великої Британії витратить 100 мільйонів фунтів стерлінгів на нову робочу групу зі штучного інтелекту, яка допоможе тестувати алгоритми, що розробляються. Він хоче заохотити світовий бізнес надсилати інструменти штучного інтелекту до Великої Британії для оцінки, перш ніж широко їх впроваджувати.

За словами віце-прем'єр-міністра Великої Британії Олівера Даудена, лише уряд може забезпечити вирішення найважливіших проблем національної безпеки.

Речник уряду Великої Британії заявив, що штучний інтелект має величезний потенціал для зміни кожного аспекту життя. Для забезпечення безпечної та відповідальної розробки технології було створено Робочу групу зі штучного інтелекту. На конференції з питань штучного інтелекту буде розглянуто низку потенційних ризиків.

(За даними газети «Ґардіан»)

Застосування штучного інтелекту для захисту авторських прав на цифровий контент . Поряд зі стрімким розвитком цифрового контенту, порушення авторських прав також стає дедалі болючішим. Рішення, що інтегрують штучний інтелект (ШІ), сприятимуть захисту авторських прав на цифровий контент в Інтернеті.

Джерело