Китай і Захід визначили «червоні лінії» ризиків, пов’язаних зі штучним інтелектом

Минулого тижня в Пекіні зустрілася група відомих міжнародних експертів, де вони визначили «червоні лінії» в розвитку штучного інтелекту, включаючи створення біологічної зброї та проведення кібератак.

У заяві, зробленій через кілька днів після зустрічі, науковці попередили, що для запобігання «катастрофічним або навіть екзистенційним ризикам для людства за нашого життя» потрібен спільний підхід до безпеки штучного інтелекту.

«У розпал холодної війни міжнародна урядова та наукова співпраця допомогли запобігти ядерній катастрофі. Людство має знову працювати разом, щоб запобігти катастрофі, яка може виникнути внаслідок безпрецедентних технологій», – йдеться у заяві.

Китайські та західні вчені визначають межу ризику ШІ, зображення 1 — Експерти Міжнародного діалогу з питань безпеки штучного інтелекту в Пекіні визначили «червоні лінії» у розвитку штучного інтелекту. Фото: FT

Серед підписантів – Джеффрі Хінтон та Йошуа Бенджіо, яких часто називають «батьками» штучного інтелекту; Стюарт Рассел, професор інформатики Каліфорнійського університету; та Ендрю Яо, один із найвидатніших китайських вчених-комп'ютерників.

Ця заява пролунала після Міжнародного діалогу з безпеки штучного інтелекту в Пекіні минулого тижня, на якому були присутні китайські урядовці , щоб висловити своє схвалення форуму та його результатів.

Президент США Джо Байден та президент Китаю Сі Цзіньпін зустрілися у листопаді минулого року та обговорили безпеку штучного інтелекту, домовившися про встановлення діалогу з цього питання. Провідні світові компанії, що займаються штучним інтелектом, також проводили закриті зустрічі з китайськими експертами у сфері штучного інтелекту в останні місяці.

У листопаді 2023 року 28 країн, включаючи Китай, та провідні компанії зі штучного інтелекту під час саміту з безпеки штучного інтелекту, організованого канцлером Великої Британії Ріші Сунаком, домовилися про широке зобов'язання співпрацювати для вирішення екзистенційних ризиків, що виникають через передовий штучний інтелект.

Минулого тижня в Пекіні експерти обговорили загрози, пов'язані з розвитком «штучного загального інтелекту – ШІ», або систем штучного інтелекту, які є рівними або перевершують людські.

«Основним фокусом дискусії були червоні лінії, які не повинна перетинати жодна потужна система штучного інтелекту, і які уряди всього світу повинні запровадити під час розробки та впровадження штучного інтелекту», – сказав Бенджіо.

Ці червоні лінії гарантуватимуть, що «жодна система штучного інтелекту не зможе відтворюватися або вдосконалюватися без явної згоди та підтримки людини» або «вживати дій, які надмірно збільшують її силу та вплив».

Вчені додали, що жодна система «суттєво не покращить можливості суб’єктів розробляти зброю масового знищення, порушувати конвенцію про біологічну або хімічну зброю» або не зможе «автоматично здійснювати кібератаки, які призводять до серйозних фінансових втрат або еквівалентної шкоди».

Хоанг Хай (за даними FT)

Джерело