«Батько» Chat GPT ділиться своїм найбільшим страхом щодо штучного інтелекту

«Мій найгірший страх полягає в тому, що ми, ця галузь, технологічна індустрія, завдамо серйозної шкоди світові . Я думаю, що це може статися кількома різними способами. Саме тому ми створили цю компанію», – сказав Альтман під час слухань у Підкомітеті Сенату з питань конфіденційності, технологій та права 16 травня.

Найбільший страх: ШІ може помилятися

«Люди думають, що якщо ця технологія піде не так, вона може зіпсуватися, і ми хочемо про це відкрито говорити. Ми хочемо співпрацювати з урядом , щоб запобігти цьому», – сказав Альтман, генеральний директор OpenAI (розробника ChatGPT).

Генеральний директор OpenAI Сем Альтман склав присягу під час слухань у судовому підкомітеті Сенату. (Фото: Washington Post)

У своїх перших свідченнях у Конгресі Альтман також закликав до широкого регулювання, включаючи створення нового урядового агентства, відповідального за ліцензування моделей штучного інтелекту, щоб вирішити зростаючі побоювання щодо того, що штучний інтелект може спотворювати реальність і створювати безпрецедентні ризики для безпеки.

Пан Альтман зайняв серйозну позицію щодо того, як штучний інтелект може «завдати значної шкоди світові», і висловив готовність співпрацювати із законодавцями для вирішення ризиків, що виникають через ChatGPT його компанії та інші інструменти штучного інтелекту.

Пан Альтман окреслив «ризиковану» поведінку, яку забезпечують такі технології, як ChatGPT, зокрема поширення «інтерактивної дезінформації в реальному часі» та емоційні маніпуляції. Він визнав, що штучний інтелект може бути використаний для боротьби з атаками дронів.

«Якщо ця технологія піде не так, це може бути погано», – сказав він.

Однак, протягом майже трьох годин обговорення потенційно жахливих наслідків, пан Альтман наполягав на тому, що його компанія продовжуватиме впроваджувати технології штучного інтелекту.

Замість того, щоб ризикувати, стверджує він, «ітеративне розгортання» моделей штучного інтелекту OpenAI дає організаціям час зрозуміти потенційні загрози, що є стратегічним кроком, який впроваджує у світ «відносно слабкі» та «недосконалі» технології, щоб допомогти виявити пов’язані з ними ризики для безпеки.

Ілюстрація програми ChatGPT, яка дозволяє комп'ютерам спілкуватися з користувачами, як з людьми.

Протягом останніх кількох тижнів пан Альтман здійснив світовий тур доброї волі, приватно зустрічаючись із політиками, включаючи президента Байдена та членів Конгресу, щоб обговорити занепокоєння щодо швидкого впровадження ChatGPT та інших технологій.

Слухання 16 травня знаменують собою першу можливість для широкої громадськості почути його послання в той час, коли Вашингтон дедалі більше намагається регулювати технологію, яка порушує роботу, сприяє шахрайству та поширює дезінформацію.

На відміну від слухань з іншими генеральними директорами технологічних компаній, такими як Шоу Цзи Чу з TikTok та Марк Цукерберг з Meta, американські законодавці зустріли пана Альтмана відносно тепло.

Здавалося, що вони були в режимі слухання, висловлюючи готовність розглянути пропозиції Альтмана та двох інших свідків на слуханні: керівника IBM Крістіни Монтгомері та почесного професора Нью-Йоркського університету Гері Маркуса.

Під час слухань у Підкомітеті Сенату з питань конфіденційності, технологій та права з питань юстиції законодавці висловили глибоку стурбованість швидким розвитком штучного інтелекту, стверджуючи, що останні досягнення можуть бути більш трансформаційними, ніж інтернет, або такими ж небезпечними, як атомна бомба.

«Це ваша можливість розповісти нам, як це зробити правильно», – сказав свідкам сенатор Джон Нілі Кеннеді. «Скористайтеся нею».

Законодавці від обох партій висловили відкритість до ідеї створення урядового агентства, яке мало б регулювати розвиток штучного інтелекту, хоча попередні спроби створити спеціальне агентство під наглядом Кремнієвої долини зазнали невдачі в Конгресі, оскільки партії розділилися в думках щодо того, як формувати таке масштабне агентство.

Незрозуміло, чи отримає така пропозиція широку підтримку серед республіканців, які загалом побоюються розширення урядових повноважень. Сенатор Джош Хоулі, республіканець від штату Міссурі, попередив, що таке агентство може «потрапити в пастку інтересів, які воно має регулювати».

Сенатор Річард Блюменталь, голова підкомітету, високо оцінив свідчення пана Альтмана на слуханні: «Сем Альтман — це цілий світ, відмінний від інших генеральних директорів... Не лише своїми словами та риторикою, а й своїми фактичними діями та готовністю долучатися та зобов’язуватися до конкретних дій».

Слухання з генеральним директором Альтманом відбуваються на тлі дедалі більшої стурбованості політиків у Вашингтоні щодо загроз, що виникають з боку штучного інтелекту, такого як ChatGPT та інші інноваційні інструменти штучного інтелекту, зокрема щодо дезінформації, конфіденційності даних, порушення авторських прав та кібербезпеки.

Законодавці висловили жаль щодо свого відносно недбалого підходу до індустрії штучного інтелекту з часів до виборів 2016 року. Їхні перші слухання з генеральним директором Meta Цукербергом відбулися у 2018 році, коли Facebook вже був гігантом і щойно пережив скандал Cambridge Analytica, в результаті якого було зібрано дані 87 мільйонів користувачів Facebook.

На той час, попри широкий двопартійний консенсус щодо того, що штучний інтелект становить загрозу, законодавці не змогли домовитися про правила, які б регулювали його використання чи розробку.

(Джерело: газета «Тін Тук»/«Фокс Ньюз»; «Вашингтон Пост»)

Корисний
Емоція
Креатив
Унікальний
Гнів

Джерело: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html