Директор OpenAI каже, що для боротьби з ризиками ШІ потрібні нові правила

«Я хвилююся з цього приводу», – сказав генеральний директор Сем Альтман про потенційне використання штучного інтелекту для втручання у вибори, наголосивши на необхідності додаткових правил та інструкцій для регулювання сфери штучного інтелекту.

Генеральний директор OpenAI закликає до правил боротьби з ризиками, пов'язаними зі штучним інтелектом (зображення 1) — Генеральний директор ChatGPT Сем Альтман свідчить перед Конгресом США. Фото: NBC

В останні місяці великі та малі компанії поспішали виводити на ринок продукти штучного інтелекту, підштовхувані шаленим полюванням на ChatGPT. Деякі критики побоюються, що ця технологія посилить соціальну шкоду, зокрема поглибить упередження та поширить дезінформацію.

«Немає способу повністю регулювати штучний інтелект, особливо коли шалене захоплення штучним інтелектом набирає обертів у всьому світі», – сказав сенатор Корі Букер, один із багатьох законодавців, які ставлять під сумнів те, як найкраще регулювати штучний інтелект.

Сенатор Мейзі Хіроно зазначила ризик поширення дезінформації з наближенням виборів 2024 року. Виступаючи перед Конгресом вперше, Альтман запропонувала США розглянути вимоги щодо ліцензування та тестування для розробки моделей штучного інтелекту.

Коли його попросили прокоментувати, який штучний інтелект слід ліцензувати, він сказав, що модель, яка може переконувати людину або маніпулювати нею, буде «напрямком для розгляду».

Він також сказав, що компанії повинні мати право заявити, що вони не хочуть, щоб їхні дані використовувалися для навчання штучного інтелекту, що також обговорюється в Конгресі США.

Білий дім зібрав керівників провідних технологічних компаній, зокрема Сема Альтмана, для обговорення питання штучного інтелекту. Законодавці США також працюють над пошуком рішень для підвищення переваг технології та національної безпеки, одночасно обмежуючи зловживання штучним інтелектом.

Співробітник OpenAI нещодавно запропонував США створити орган ліцензування ШІ, який можна було б назвати Управлінням безпеки інфраструктури ШІ або OASIS.

OpenAI підтримується Microsoft. Альтман також закликає до глобальної співпраці у сфері штучного інтелекту та заохочує компанії дотримуватися правил безпеки.

Крістіна Монтгомері, головний спеціаліст IBM з питань довіри та конфіденційності, закликала Конгрес зосередити регулювання на сферах з найбільшим потенціалом для соціальної шкоди.

Хоангтон (за даними NBC, Reuters)

Джерело