«Отец» Chat GPT поделился своим самым большим страхом относительно ИИ

«Больше всего я боюсь, что мы — мы, эта сфера, технологическая индустрия — причиним серьёзный вред миру . Я думаю, это может произойти по-разному. Именно поэтому мы создали эту компанию», — заявил Альтман на слушаниях в сенатском подкомитете по вопросам конфиденциальности, технологий и права 16 мая.

Самый большой страх: ИИ может ошибаться

«Люди думают, что если эта технология даст сбой, она может выйти из строя, и мы хотим открыто заявить об этом. Мы хотим сотрудничать с правительством , чтобы предотвратить подобные ситуации», — сказал Альтман, генеральный директор OpenAI (разработчика ChatGPT).

Генеральный директор OpenAI Сэм Альтман принимает присягу во время слушаний в судебном подкомитете Сената. (Фото: Washington Post)

В своем первом выступлении в Конгрессе Альтман также призвал к широкому регулированию, включая создание нового государственного агентства, ответственного за лицензирование моделей ИИ, чтобы справиться с растущими опасениями относительно того, что искусственный интеллект может искажать реальность и создавать беспрецедентные риски для безопасности.

Г-н Альтман занял серьезную позицию относительно того, каким образом искусственный интеллект может «нанести значительный вред миру», и выразил готовность работать с законодателями над устранением рисков, связанных с ChatGPT и другими инструментами ИИ его компании.

Г-н Альтман описал «рискованное» поведение, которое стало возможным благодаря таким технологиям, как ChatGPT, включая распространение «интерактивной дезинформации в режиме реального времени» и эмоциональную манипуляцию. Он признал, что ИИ может быть использован для отслеживания атак дронов.

«Если эта технология выйдет из строя, это может закончиться плохо», — сказал он.

Тем не менее, в ходе почти трехчасового обсуждения потенциально тяжелых последствий г-н Альтман настаивал на том, что его компания продолжит внедрять технологии искусственного интеллекта.

По его словам, вместо того чтобы рисковать, «итеративное развертывание» моделей искусственного интеллекта OpenAI дает организациям время понять потенциальные угрозы, что является стратегическим шагом, который выводит на рынок «относительно слабые» и «несовершенные» технологии, помогая выявлять сопутствующие риски безопасности.

Иллюстрация приложения ChatGPT, которое позволяет компьютерам общаться с пользователями, как с людьми.

За последние несколько недель г-н Альтман совершил международный тур доброй воли, проведя частные встречи с политиками, включая президента Байдена и членов Конгресса, чтобы обсудить обеспокоенность по поводу быстрого развертывания ChatGPT и других технологий.

Слушания 16 мая дадут широкой общественности первую возможность услышать его послание в то время, когда Вашингтону становится все труднее регулировать технологию, которая разрушает рабочие места, способствует мошенничеству и распространяет дезинформацию.

В отличие от слушаний с участием других руководителей технологических компаний, таких как Шоу Цзы Чу из TikTok и Марк Цукерберг из Meta, американские законодатели оказали г-ну Альтману относительно теплый прием.

Они, по-видимому, были в режиме слушания, выразив готовность рассмотреть предложения Альтмана и двух других свидетелей на слушании: руководителя IBM Кристины Монтгомери и почетного профессора Нью-Йоркского университета Гэри Маркуса.

В ходе слушаний в подкомитете Сената по вопросам правоприменения, технологий и права законодатели выразили глубокую обеспокоенность быстрым развитием искусственного интеллекта, заявив, что последние достижения могут оказаться более преобразующими, чем Интернет, или столь же опасными, как атомная бомба.

«Это ваш шанс рассказать нам, как это сделать правильно», — сказал сенатор Джон Нили Кеннеди свидетелям. «Воспользуйтесь им».

Законодатели от обеих партий выразили открытость идее создания правительственного агентства, которому будет поручено регулировать разработку искусственного интеллекта, хотя предыдущие попытки создать специальное агентство под надзором Кремниевой долины провалились в Конгрессе, поскольку партии разделились во мнениях о том, как сформировать столь крупное агентство.

Неясно, получит ли такое предложение широкую поддержку среди республиканцев, которые обычно с опаской относятся к расширению полномочий правительства. Сенатор Джош Хоули, республиканец от штата Миссури, предупредил, что такое агентство может «попасть в ловушку интересов, которые оно призвано регулировать».

Сенатор Ричард Блюменталь, председатель подкомитета, высоко оценил показания г-на Альтмана на слушаниях: «Сэм Альтман — это целый мир, отличный от других генеральных директоров... Не только своими словами и риторикой, но и реальными действиями и готовностью участвовать и брать на себя обязательства по конкретным действиям».

Слушание с участием генерального директора Альтмана состоялось на фоне растущей обеспокоенности вашингтонских политиков угрозами, исходящими от искусственного интеллекта, такого как ChatGPT и другие инновационные инструменты ИИ, особенно в плане дезинформации, конфиденциальности данных, нарушения авторских прав и кибербезопасности.

Законодатели выразили сожаление по поводу своего относительно слабого подхода к индустрии искусственного интеллекта ещё до выборов 2016 года. Их первое слушание с главой Meta Цукербергом состоялось в 2018 году, когда Facebook уже был гигантом и только что пережил скандал с Cambridge Analytica, которая собрала данные 87 миллионов пользователей Facebook.

В то время, несмотря на широкий двухпартийный консенсус относительно того, что ИИ представляет угрозу, законодатели не смогли договориться о правилах, регулирующих его использование и развитие.

(Источник: газета Tin Tuc/Fox News; Washington Post)

Полезный
Эмоция
Творческий
Уникальный
Гнев

Источник: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html