«Отец» Chat GPT поделился своим самым большим страхом перед ИИ

«Моё самое большое опасение заключается в том, что мы — мы, эта сфера, технологическая индустрия — причиним серьёзный вред миру . Я думаю, это может произойти разными способами. Именно поэтому мы создали эту компанию», — заявил г-н Альтман на слушаниях в сенатском подкомитете по вопросам конфиденциальности, технологий и права 16 мая.

Самый большой страх: ИИ может ошибаться

«Люди думают, что если эта технология даст сбой, она может выйти из строя, и мы хотим открыто заявить об этом. Мы хотим сотрудничать с правительствами , чтобы предотвратить подобные ситуации», — сказал Альтман, генеральный директор OpenAI (разработчика ChatGPT).

Генеральный директор OpenAI Сэм Альтман принимает присягу во время слушаний в судебном подкомитете Сената. (Фото: Washington Post)

В своем первом выступлении перед Конгрессом США г-н Сэм Альтман также призвал к широкому регулированию, включая создание нового государственного агентства, ответственного за лицензирование моделей ИИ, для решения растущей обеспокоенности тем, что искусственный интеллект может искажать реальность и создавать беспрецедентные риски для безопасности.

Г-н Альтман занял серьезную позицию относительно того, каким образом искусственный интеллект может «нанести значительный вред миру», и выразил готовность работать с законодателями над устранением рисков, связанных с ChatGPT и другими инструментами ИИ его компании.

Г-н Альтман описал «рискованное» поведение, к которому могут привести такие технологии, как ChatGPT, включая распространение «интерактивной дезинформации в режиме реального времени» и эмоциональную манипуляцию. Он признал, что ИИ может быть использован для отслеживания атак дронов.

«Если эта технология даст сбой, она может выйти из строя», — сказал он.

Тем не менее, в ходе почти трехчасового обсуждения возможных ужасных последствий г-н Альтман настаивал на том, что его компания продолжит внедрять технологии искусственного интеллекта.

По его словам, вместо того чтобы рисковать, «итеративное развертывание» моделей искусственного интеллекта OpenAI дает организациям время понять потенциальные угрозы, что является стратегическим шагом, который выводит на рынок «относительно слабые» и «несовершенные» технологии, помогая выявлять сопутствующие риски безопасности.

Иллюстрация приложения ChatGPT, которое позволяет компьютерам общаться с пользователями, как с людьми.

За последние несколько недель г-н Альтман совершил международный тур доброй воли, проведя частные встречи с политиками, включая президента Байдена и членов Конгресса, чтобы обсудить обеспокоенность по поводу быстрого развертывания ChatGPT и других технологий.

Слушания 16 мая дадут широкой общественности первую возможность услышать его послание в то время, когда Вашингтону становится все труднее регулировать технологию, которая разрушает рабочие места, способствует мошенничеству и распространяет дезинформацию.

В отличие от слушаний с участием других руководителей технологических компаний, таких как Шоу Цзы Чу из TikTok и Марк Цукерберг из Meta, американские законодатели оказали г-ну Альтману относительно теплый прием.

Они, по-видимому, были в режиме слушания, выразив готовность рассмотреть предложения Альтмана и двух других свидетелей на слушании: руководителя IBM Кристины Монтгомери и почетного профессора Нью-Йоркского университета Гэри Маркуса.

В ходе слушаний в судебном подкомитете Сената по вопросам конфиденциальности, технологий и права законодатели выразили глубокую обеспокоенность быстрым развитием искусственного интеллекта, заявив, что последние достижения могут оказаться более преобразующими, чем Интернет, или столь же опасными, как атомная бомба.

«Это ваш шанс рассказать нам, как это сделать правильно», — сказал сенатор Джон Нили Кеннеди свидетелям. «Воспользуйтесь им».

Законодатели от обеих партий выразили открытость идее создания правительственного агентства, которому будет поручено регулировать разработку искусственного интеллекта, хотя предыдущие попытки создать специальное агентство под надзором Кремниевой долины потерпели неудачу в Конгрессе из-за партийных разногласий по поводу того, как сформировать столь крупное агентство.

Неясно, получит ли такое предложение широкую поддержку среди республиканцев, которые обычно с опаской относятся к расширению полномочий правительства. Сенатор Джош Хоули, республиканец от штата Миссури, предупредил, что такое агентство может «попасть в ловушку интересов, которые оно призвано регулировать».

Сенатор Ричард Блюменталь, председатель подкомитета, высоко оценил показания г-на Альтмана на слушаниях: «Сэм Альтман — это целый мир, отличный от других генеральных директоров... Не только своими словами и риторикой, но и своими реальными действиями и готовностью участвовать, брать на себя обязательства по конкретным действиям».

Слушание с участием генерального директора Альтмана состоялось на фоне растущей обеспокоенности вашингтонских политиков угрозами, исходящими от искусственного интеллекта, такого как ChatGPT и другие инновационные инструменты ИИ, особенно в плане дезинформации, конфиденциальности данных, нарушения авторских прав и кибербезопасности.

Законодатели выразили сожаление по поводу своего относительно слабого подхода к индустрии искусственного интеллекта ещё до выборов 2016 года. Их первое слушание с главой Meta Цукербергом состоялось в 2018 году, когда Facebook уже была гигантом и только что пережила скандал с Cambridge Analytica, в результате которого были украдены данные 87 миллионов пользователей Facebook.

В то время, несмотря на широкий двухпартийный консенсус относительно того, что ИИ представляет угрозу, законодатели не смогли договориться о правилах, регулирующих его использование и развитие.

(Источник: газета Tin Tuc/Fox News; Washington Post)

Полезный
Эмоция
Творческий
Уникальный
Гнев

Источник: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html