Директор OpenAI каже, що для боротьби з ризиками ШІ потрібні нові правила

«Я хвилююся з цього приводу», – сказав генеральний директор Сем Альтман про потенційне використання штучного інтелекту для втручання у вибори, наголосивши на необхідності додаткових правил та інструкцій для регулювання сфери штучного інтелекту.

Генеральний директор OpenAI закликає до правил боротьби з ризиками ШІ — Генеральний директор ChatGPT Сем Альтман під час слухань у Конгресі США. Фото: NBC

В останні місяці великі та малі компанії поспішали виводити на ринок продукти штучного інтелекту, підштовхувані шаленим полюванням на ChatGPT. Деякі критики побоюються, що ця технологія посилить соціальну шкоду, зокрема поглибить упередження та поширить дезінформацію.

«Немає способу повністю регулювати штучний інтелект, особливо коли шалене захоплення штучним інтелектом набирає обертів у всьому світі», – сказав сенатор Корі Букер, один із багатьох законодавців, які ставлять під сумнів те, як найкраще регулювати штучний інтелект.

Сенатор Мейзі Хіроно зазначила ризик поширення дезінформації з наближенням виборів 2024 року. Виступаючи вперше перед Конгресом США, Альтман запропонувала США розглянути вимоги щодо ліцензування та тестування для розробки моделей штучного інтелекту.

Коли його попросили прокоментувати, який саме ШІ слід ліцензувати, він сказав, що модель, яка може переконувати людину або маніпулювати нею, буде «тонкою межею, яку слід враховувати».

Він також сказав, що компанії повинні мати право заявити, що вони не хочуть, щоб їхні дані використовувалися для навчання штучного інтелекту, що також обговорюється в Конгресі США.

Білий дім скликав провідних генеральних директорів технологічних компаній, зокрема Сема Альтмана, для вирішення проблеми штучного інтелекту. Законодавці США також працюють над пошуком рішень для посилення переваг технологій та національної безпеки, одночасно обмежуючи зловживання штучним інтелектом.

Співробітник OpenAI нещодавно запропонував США створити орган ліцензування ШІ, можливо, під назвою Управління безпеки інфраструктури ШІ або OASIS.

OpenAI підтримується Microsoft. Альтман також закликає до глобальної співпраці у сфері штучного інтелекту та заохочує компанії дотримуватися правил безпеки.

Крістіна Монтгомері, головний спеціаліст IBM з питань довіри та конфіденційності, закликала Конгрес зосередити регулювання на сферах з найбільшим потенціалом для соціальної шкоди.

Хоангтон (за даними NBC, Reuters)

Джерело