Директор OpenAI заявил, что для борьбы с рисками, связанными с ИИ, необходимы новые правила

«Меня это беспокоит», — сказал генеральный директор Сэм Альтман о возможном использовании ИИ для вмешательства в выборы, подчеркнув необходимость дополнительных правил и рекомендаций для регулирования сферы искусственного интеллекта.

Генеральный директор ChatGPT Сэм Альтман во время слушаний в Конгрессе США. Фото: NBC

В последние месяцы крупные и мелкие компании спешат вывести на рынок продукты на базе искусственного интеллекта, подстегиваемые ажиотажем вокруг ChatGPT. Некоторые критики опасаются, что эта технология усугубит социальный вред, в том числе усилит предрассудки и распространит дезинформацию.

«Невозможно полностью регулировать ИИ, особенно когда увлечение ИИ набирает обороты во всем мире», — заявил сенатор Кори Букер, один из многих законодателей, задающихся вопросом о том, как лучше всего регулировать ИИ.

Сенатор Мэйзи Хироно отметила риск распространения дезинформации по мере приближения выборов 2024 года. Выступая впервые перед Конгрессом США, Альтман предложила правительству США рассмотреть вопрос о требованиях к лицензированию и тестированию при разработке моделей искусственного интеллекта.

На просьбу прокомментировать, какой ИИ следует лицензировать, он ответил, что модель, способная убеждать или манипулировать убеждениями человека, будет «тонкой гранью для рассмотрения».

Он также заявил, что компании должны иметь право заявить, что они не хотят, чтобы их данные использовались для обучения ИИ, и этот вопрос также обсуждается в Конгрессе США.

Белый дом созвал ведущих руководителей технологических компаний, включая Сэма Альтмана, для обсуждения проблемы ИИ. Американские законодатели также работают над поиском решений, которые позволят повысить эффективность технологий и укрепить национальную безопасность, одновременно ограничивая злоупотребления ИИ.

Недавно сотрудник OpenAI предложил в США создать орган по лицензированию ИИ, который мог бы называться Управлением по безопасности и защите инфраструктуры ИИ, или OASIS.

OpenAI поддерживается Microsoft. Альтман также призывает к глобальному сотрудничеству в области ИИ и призывает компании соблюдать правила безопасности.

Кристина Монтгомери, директор по доверию и конфиденциальности IBM, призвала Конгресс сосредоточить регулирование на областях с наибольшим потенциалом социального вреда.

Хоанг Тон (по данным NBC, Reuters)

Источник: https://www.congluan.vn/ceo-cua-openai-keu-goi-cac-quy-tac-de-chong-lai-rui-ro-ai-post247993.html