«Больше всего я боюсь, что мы — этот сектор, технологическая индустрия — нанесем серьезный вред миру. Я думаю, это может произойти разными способами. Вот почему мы создали эту компанию», — сказал Альтман во время слушаний в сенатском судебном подкомитете по вопросам конфиденциальности, технологий и права 16 мая.
Самый большой страх: ИИ может ошибаться
«Люди думают, что если эта технология пойдет не так, то она может выйти из строя, и мы хотим открыто заявить об этом. Мы хотим работать с правительствами , чтобы этого не произошло», — сказал Альтман, генеральный директор OpenAI (разработчик ChatGPT).
В своих первых показаниях в Конгрессе Альтман также призвал к широкому регулированию, включая создание нового государственного агентства, ответственного за лицензирование моделей ИИ, для решения растущих опасений, что искусственный интеллект может искажать реальность и создавать беспрецедентные риски для безопасности.
Генеральный директор OpenAI Сэм Альтман принимает присягу во время слушаний в судебном подкомитете Сената. Фото: Washington Post
Г-н Альтман занял серьезную позицию в отношении того, каким образом искусственный интеллект может «нанести значительный вред миру», и выразил готовность работать с законодателями для устранения рисков, связанных с ChatGPT и другими инструментами ИИ его компании.
Г-н Альтман обрисовал «рискованное» поведение, которое стало возможным благодаря таким технологиям, как ChatGPT, включая распространение «интерактивной дезинформации в реальном времени» и эмоциональной манипуляции. Он признал, что ИИ может использоваться для таргетирования атак дронов.
«Если эта технология выйдет из строя, это может закончиться плохо», — сказал он.
Но во время почти трехчасового обсуждения потенциально ужасных последствий г-н Альтман настаивал на том, что его компания продолжит развертывание технологии ИИ. Вместо того чтобы рисковать, утверждал он, «итеративное развертывание» моделей ИИ OpenAI дает организациям время понять потенциальные угрозы. Это стратегический шаг по внедрению «относительно слабой» и «несовершенной» технологии в мир, чтобы помочь выявить связанные с этим риски безопасности.
Иллюстрация приложения ChatGPT, которое позволяет компьютерам общаться с пользователями, как с людьми.
За последние несколько недель г-н Альтман совершил международный тур доброй воли, встречаясь в частном порядке с политиками, включая президента Байдена и членов Конгресса, чтобы обсудить обеспокоенность по поводу быстрого развертывания ChatGPT и других технологий.
Слушания 16 мая станут первой возможностью для широкой общественности услышать его послание в то время, когда Вашингтону все сложнее регулировать технологию, которая подрывает рабочие места, способствует мошенничеству и распространяет дезинформацию.
В резком контрасте со слушаниями с другими технологическими директорами, такими как Шоу Цзы Чу из TikTok и Марк Цукерберг из Meta, американские законодатели оказали Альтману относительно теплый прием. Они, казалось, были в режиме слушания, выражая открытость к рассмотрению предложений Альтмана и двух других свидетелей на слушании: генерального директора IBM Кристины Монтгомери и почетного профессора Нью-Йоркского университета Гэри Маркуса.
В ходе слушаний в сенатском подкомитете по вопросам конфиденциальности, технологий и права законодатели выразили глубокую обеспокоенность быстрым развитием искусственного интеллекта, заявив, что последние достижения могут оказаться более преобразующими, чем Интернет, или столь же опасными, как атомная бомба.
«Это ваш шанс рассказать нам, как сделать это правильно», — сказал сенатор Джон Нили Кеннеди свидетелям. «Используйте его».
Законодатели от обеих партий выразили открытость идее создания правительственного агентства, которому будет поручено регулирование разработки искусственного интеллекта, хотя предыдущие попытки создать специальное агентство под надзором Кремниевой долины потерпели неудачу в Конгрессе, поскольку партии разделились во мнениях о том, как сформировать столь крупное агентство.
Неясно, получит ли такое предложение широкую поддержку среди республиканцев, которые обычно опасаются расширения полномочий правительства. Сенатор Джош Хоули, республиканец из Миссури, предупредил, что такое агентство может «попасть в ловушку интересов, которые оно должно регулировать».
Сенатор Ричард Блюменталь, председатель подкомитета, высоко оценил показания г-на Альтмана на слушаниях: «Сэм Альтман — это целый мир, отличный от других генеральных директоров... Не только своими словами и риторикой, но и своими реальными действиями и готовностью взаимодействовать и брать на себя обязательства по конкретным действиям».
Слушания с участием генерального директора Альтмана проходят на фоне растущей обеспокоенности политиков Вашингтона угрозами, создаваемыми искусственным интеллектом, таким как ChatGPT и другие инновационные инструменты ИИ, особенно в отношении дезинформации, конфиденциальности данных, нарушения авторских прав и кибербезопасности.
Законодатели выразили сожаление по поводу своего относительно слабого подхода к индустрии ИИ еще до выборов 2016 года. Их первое слушание с генеральным директором Meta Цукербергом состоялось в 2018 году, когда Facebook уже был гигантом и только что пережил скандал с Cambridge Analytica, которая собрала данные 87 миллионов пользователей Facebook.
В то время, несмотря на широкий двухпартийный консенсус относительно того, что ИИ представляет угрозу, законодатели не смогли договориться о правилах, регулирующих его использование и развитие.
По данным газеты VNA/Tin Tuc
Ссылка на источник
Комментарий (0)