Директор OpenAI заявил, что для борьбы с рисками, связанными с ИИ, необходимы новые правила

«Меня это беспокоит», — сказал генеральный директор Сэм Альтман о потенциальном использовании ИИ для вмешательства в выборы, подчеркнув необходимость дополнительных правил и рекомендаций для регулирования сферы искусственного интеллекта.

Генеральный директор ChatGPT Сэм Альтман дает показания перед Конгрессом США. Фото: NBC

В последние месяцы крупные и мелкие компании ринулись выводить на рынок продукты ИИ, подстегиваемые помешательством на ChatGPT. Некоторые критики опасаются, что эта технология усугубит социальный вред, включая углубление предрассудков и распространение дезинформации.

«Невозможно полностью регулировать ИИ, особенно когда увлечение ИИ распространяется по всему миру», — заявил сенатор Кори Букер, один из многих законодателей, задающихся вопросом о том, как лучше всего регулировать ИИ.

Сенатор Мэйзи Хироно отметила риск широко распространенной дезинформации по мере приближения выборов 2024 года. Выступая перед Конгрессом впервые, Альтман предложил, чтобы США рассмотрели требования к лицензированию и тестированию для разработки моделей ИИ.

Когда его попросили прокомментировать, какой ИИ следует лицензировать, он сказал, что модель, способная убеждать или манипулировать убеждениями человека, «будет предметом рассмотрения».

Он также заявил, что компании должны иметь право заявлять, что они не хотят, чтобы их данные использовались для обучения ИИ, и этот вопрос также обсуждается в Конгрессе США.

Белый дом созвал ведущих руководителей технологических компаний, включая Сэма Альтмана, для обсуждения проблемы ИИ. Американские законодатели также работают над поиском решений для повышения преимуществ технологии и национальной безопасности, одновременно ограничивая нецелевое использование ИИ.

Недавно сотрудник OpenAI предложил США создать орган по лицензированию ИИ, который можно было бы назвать Управлением по безопасности и защите инфраструктуры ИИ, или OASIS.

OpenAI поддерживается Microsoft. Альтман также призывает к глобальному сотрудничеству в области ИИ и призывает компании соблюдать правила безопасности.

Кристина Монтгомери, директор по доверию и конфиденциальности IBM, призвала Конгресс сосредоточить регулирование на областях с наибольшим потенциалом социального вреда.

Хоанг Тон (по данным NBC, Reuters)

Источник: https://www.congluan.vn/ceo-cua-openai-keu-goi-cac-quy-tac-de-chong-lai-rui-ro-ai-post247993.html