Насправді, це не перший випадок, коли вчені попереджають про потенційну небезпеку штучного інтелекту для людства. У 2014 році відомий британський фізик-теоретик Стівен Гокінг заявив: «Повний розвиток штучного інтелекту може знищити людство». Він також передбачив, що людство буде повністю замінено штучним інтелектом протягом 500 років, якщо не буде обережно підходити до досліджень та розробок цієї небезпечної технології. Вісім років тому, у липні 2015 року, понад 1000 експертів зі штучного інтелекту, включаючи Стівена Гокінга, Ілона Маска, Ноама Хомскі та інших, підписали петицію, в якій попереджають про ризик гонки озброєнь у сфері військового ШІ та закликають до повної заборони автономної зброї (що поєднує ШІ та летальну зброю). Запуск OpenAI програми Chat GPT у листопаді 2022 року додав ще один тривожний дзвіночок щодо небезпеки, притаманної штучному інтелекту. Фактично, те, що робить Chat GPT, показує, що ШІ певною мірою став набагато небезпечнішим, ніж люди колись думали.
Потенційні ризики штучного інтелекту залежать від того, як його використовують. Спочатку ШІ розроблявся для допомоги людям у їхній роботі, особливо у виконанні виснажливих, повторюваних завдань, таких як класифікація зображень та перегляд інформації. Однак, зі швидким розвитком ШІ останнім часом, вчені та експерти з технологій стурбовані тим, що якщо його розробляти безконтрольно або програмувати для неправильних цілей, штучний інтелект може мати серйозні наслідки для людства та суспільства.
Ризик невпевненості
Штучний інтелект може стати загрозою національній та особистій безпеці. Ілон Маск попередив, що ШІ може стати жахливим інструментом у війні. Якщо країна зможе розробити досконалу систему штучного інтелекту, вона зможе використовувати її для нападу на інші країни. Професор Стюарт Рассел, професор інформатики Каліфорнійського університету, який десятиліттями досліджував штучний інтелект, попереджає про загрозу безпеці, яку становить ШІ, стверджуючи, що тепер ми можемо створювати автономну зброю, інтегруючи та мініатюризуючи існуючі технології.
В експерименті, проведеному професором Стюартом Расселом та Інститутом досліджень майбутнього життя (FLI), використовувався slaughterbot – мікроскопічний літальний пристрій, оснащений камерами, датчиками, програмним забезпеченням для обробки зображень, системою розпізнавання облич, 3-грамовим вибуховим зарядом та високошвидкісним мікропроцесором, який дозволяє аналізувати дані та реагувати в 100 разів швидше, ніж людський мозок. Відповідно до запрограмованих параметрів, slaughterbot постійно отримує доступ до хмарних даних, щоб шукати інформацію про свою ціль та знаходити спосіб наблизитися до неї. Знайшовши ціль, він з високою швидкістю мчить до неї, детонує 3-грамовий вибуховий заряд та проникає глибоко в череп, миттєво вбиваючи жертву.
Це був лише експеримент зі штучним інтелектом на найпростішому рівні. Якщо штучний інтелект використовувати для розробки нових, більш досконалих методів атаки, це також може збільшити можливості атаки зловмисників і призвести до серйозніших наслідків, ніж звичайні атаки. Коли штучний інтелект розвинуться до точки, де він зможе самостійно приймати рішення для боротьби зі зміною середовища, самостійно шукати альтернативні цілі або розширювати діапазон своїх цілей, тоді, можливо, людство більше не буде в безпеці. Багато колег у цій галузі погоджуються з професором Стюартом Расселом і вважають, що ще є шанс запобігти такому похмурому майбутньому, але у нас залишилося небагато часу.
Ризик полягає в тому, що ШІ стане організованим, автономним і контролюватиме систему.
Штучний інтелект може бути неправильно розроблений або неправильно «навчений» за допомогою машинного навчання, що потенційно може призвести до ненавмисних дій, які завдають шкоди людям та довкіллю. Наприклад, завдяки машинному навчанню ШІ стає дедалі розумнішим. Коли штучний інтелект досягає рівня інтелекту, на якому він підтримує критично важливі системи, такі як енергетика, транспорт, охорона здоров'я та фінанси, він може опановувати та контролювати всі ці системи, приймаючи власні рішення та виконуючи їх у надзвичайних ситуаціях. Однак, коли ШІ «оснащений» зловмисним наміром (неправильно розроблений), він може спричинити серйозні наслідки, такі як порушення роботи дорожніх систем шляхом відключення світлофорів або відключення електроенергії міських залізничних систем, що спричиняє ланцюгові аварії та масові відключення електроенергії.
Багато голлівудських та міжнародних фільмів були засновані на цьому сценарії. Однак, з сучасними технологіями штучного інтелекту, це вже не віддалена перспектива, а цілком можлива. Ілон Маск вважає, що якщо дозволити штучному інтелекту розвиватися безконтрольно, до такої міри, що він зможе автоматизувати рішення без втручання людини, це може становити загрозу для виживання людства. Саме тому він разом із тисячами експертів з технологій підписав листа з вимогою зупинити розвиток штучного інтелекту та запровадити суворий контроль над ним у прозорий спосіб. За словами Ілона Маска, системи штучного інтелекту є складними, важкими для розуміння, а контролювати їх дуже важко. Без прозорості використання штучного інтелекту в неетичних цілях, що завдає шкоди людству, неминуче.
Ризик втрати роботи, порушення прав на приватність.
Коли технологія штучного інтелекту використовується для збору особистої інформації, вона може бути використана для порушення конфіденційності, проведення дезінформаційних кампаній та поширення неправдивої інформації, яка впливає на суспільний порядок і політичну стабільність. Злом мережі Управління персоналу США (OPM) викликає значне занепокоєння для будь-якої країни чи організації, оскільки він скомпрометував детальні та дуже конфіденційні персональні дані 21,5 мільйона чинних та відставних чиновників США, включаючи інформацію про їхніх подружжя та дані про заявки на державну роботу, такі як стан здоров'я, місце проживання, професія, відбитки пальців та фінансова інформація. Однак ще більш тривожний факт виявився, коли ЦРУ виявило, що винуватці крадіжки даних OPM використовували штучний інтелект для фальсифікації особистої інформації та створення віртуальних агентів для крадіжки даних. Після крадіжки інформація буде проаналізована, класифікована та використана для певних цілей за допомогою технології великих даних. Штучний інтелект допомагає викрадачам інформації скоротити час, необхідний для використання даних, оскільки люди не здатні обробити такий величезний обсяг інформації за такий короткий час.
Окрім вищезгаданих невід'ємних небезпек, технологія штучного інтелекту також створює інші ризики, такі як: надмірна залежність від неї, що призводить до втрати контролю над ситуаціями та зниження здатності приймати рішення. Штучний інтелект також призведе до втрати роботи мільйонів, навіть сотень мільйонів людей, особливо на роботах, пов'язаних виключно з фізичною працею та низьким вмістом знань. Наслідком цього є ще більш виражені серйозні соціальні проблеми, такі як безробіття, злочинність та розрив між багатими та бідними. Крім того, надійність також є вирішальним питанням. Надійність рішень у вузькоспеціалізованих галузях, таких як охорона здоров'я та кримінальне правосуддя, надзвичайно важлива. Під час використання штучного інтелекту для сприяння прийняттю рішень у цих сферах, якщо технологія недостатньо надійна, працює на основі даних, які схильні надавати перевагу одній людині чи групі людей, або навмисно спотворена, ці рішення можуть призвести до серйозних наслідків.
Як ми можемо цьому запобігти?
Вищезгадані ризики є причиною, чому Ілон Маск та експерти з технологій стурбовані неконтрольованим розвитком штучного інтелекту та написали листи, в яких закликають Організацію Об'єднаних Націй та міжнародні організації суворо контролювати, забезпечувати безпеку та етику в розробці штучного інтелекту; а також зміцнювати міжнародну співпрацю, щоб забезпечити корисне використання технології штучного інтелекту для людства та суспільства. Деякі конкретні заходи, які можна згадати, включають:
- Контроль надійності системи: ШІ необхідно розробляти та розробляти таким чином, щоб забезпечити безпеку та надійність за допомогою суворого, частого та безперервного контролю якості, моніторингу та методів нагляду, щоб гарантувати, що система ШІ працює належним чином, як це передбачено людиною, та уникнути небажаного впливу її ненадійності.
Технологію штучного інтелекту (ШІ) необхідно запрограмувати для роботи відповідно до етичних цінностей та соціальних норм. Ці правила та стандарти мають бути чітко встановлені та контролюватися, щоб гарантувати, що вони не завдають нічого шкідливого чи негативного для людей чи організацій. Процес аналізу, оцінки впливу та моніторингу ефективності системи ШІ також має регулярно проводитися, щоб гарантувати, що вона працює етично, не порушує та не підриває загальні цінності суспільства, не спричиняє негативного впливу та забезпечує точну передачу знань та цінностей.
    |
| Журналістика — одна з галузей, на яку найбільше вплинув штучний інтелект. У майбутньому не буде потреби в ведучих поза екраном для радіопрограм, а віртуальні ведучі для телевізійних шоу навіть стануть домінуючими. |
- Тимчасово призупинити «навчання» систем штучного інтелекту щонайменше на шість місяців, щоб переоцінити все питання. Ця пауза має бути публічною, контрольованою, і всі ключові зацікавлені сторони, залучені до навчання, повинні її дотримуватися. За необхідності уряди повинні видавати тимчасові заборони. Це не означає повну зупинку розвитку ШІ, а лише тимчасову паузу в небезпечній гонці переходу до інших моделей розвитку, які роблять системи ШІ більш точними, безпечними, зрозумілими, прозорими, актуальними, надійними та лояльними. Це комплексне рішення, яке Ілон Маск та його колеги пропагували у своєму відкритому листі, але його доцільність низька. Усім незалежним лабораторіям дуже важко виконати таке необов'язкове та транснаціональне звернення.
- Посилення співпраці та обміну інформацією між країнами та незалежними дослідницькими організаціями у сфері штучного інтелекту має вирішальне значення для забезпечення безпечної розробки та використання штучного інтелекту в майбутньому. Співпраця та обмін інформацією також дозволяють своєчасно попереджати та запобігати будь-яким новим ризикам.
Загалом, штучний інтелект вже присутній скрізь навколо нас, і такі історії, як написання віршів, музики та статей за допомогою штучного інтелекту , стали реальністю, а не науковою фантастикою. Автор цієї статті використовував технологію штучного інтелекту на комп'ютерах і телефонах, щоб допомогти в написанні, зробивши процес плавнішим і швидшим. Зокрема, вступний абзац (chapeau) та деякі ідеї були запропоновані штучним інтелектом, і що ще більш вражаюче, всі зображення, використані в цій статті, були створені штучним інтелектом. Технологія штучного інтелекту дуже корисна для покращення якості роботи та життя людей, але її потрібно жорстко контролювати, щоб запобігти її виходу з-під контролю та перетворенню на потенційну заміну людей у майбутньому, як передбачав фізик-теоретик Стівен Гокінг.
Текст і фото: ХУУ ДУОНГДжерело
Коментар (0)