Миру необходимо срочно принять меры для устранения этой угрозы, прежде чем искусственный интеллект станет неуправляемым для человека.
Тревожное предупреждение было опубликовано 23 июня в заявлении Совета по мониторингу и оценке разведывательной деятельности стран «Пяти глаз» (FIORC), в котором подтверждалось, что создание мер защиты от ИИ сейчас крайне важно для предотвращения риска глобального кризиса кибербезопасности.
Страны считают, что темпы развития искусственного интеллекта в настоящее время значительно опережают темпы разработки механизмов управления и защиты безопасности.
В заявлении говорится: «Прогнозируется, что передовые модели искусственного интеллекта вскоре превзойдут нынешние ожидания, коренным образом изменив как возможности кибератак, так и возможности защиты от киберугроз. Сроки этого изменения — не годы, а всего несколько месяцев».
Одна из проблем заключается в растущем использовании больших языковых моделей (LLM) для автоматизации процесса написания вредоносного кода. Технология Deepfake (подмена изображений и голоса на основе ИИ) также развивается с пугающей скоростью.
Риски не ограничиваются киберпреступностью или финансовым мошенничеством; ИИ также может быть использован для манипулирования общественным мнением, распространения дезинформации и прямого воздействия на национальную безопасность.
Альянс выпустил срочные рекомендации, в которых основное внимание уделялось существенному переходу к модели проактивного предотвращения и повышению ответственности крупных технологических корпораций за разрабатываемые ими продукты на основе искусственного интеллекта.
Меры кибербезопасности необходимо внедрять уже на этапе проектирования системы. Необходимо улучшить обмен данными и разведывательной информацией в режиме реального времени между государственным и частным секторами…
По данным Австралийского центра кибербезопасности (ACSC), если в ближайшее время не будут установлены глобальные стандарты безопасности для ИИ, мир может столкнуться с риском манипулирования интернетом с помощью все более сложных и трудноуправляемых алгоритмов.
Источник: https://nhandan.vn/canh-bao-rui-ro-ai-gia-tang-post971028.html









