Неправильное использование ИИ может поставить под угрозу безопасность данных.

Революция в области искусственного интеллекта (ИИ) стремительно началась в конце 2022 года, особенно после запуска OpenAI сервиса ChatGPT. Вскоре после этого крупные технологические корпорации также выпустили другие инструменты ИИ — такие как Copilot и Bing от Microsoft, а также Gemini от Google — еще больше повысив полезность ИИ. Эти инструменты могут помочь во всем: от написания кода и анализа данных до синтеза информации за короткое время. Это привело к тому, что многие пользователи стали проявлять больший интерес к ИИ.

Использовать это, одновременно испытывая беспокойство.

Г-н Нгуен Хоай Санг, офисный работник из района Биньтхань города Хошимин, рассказал, что с тех пор, как он начал использовать программное обеспечение на основе ИИ, подготовка бизнес-отчетов, сбор информации и ведение записей на внутренних или клиентских совещаниях через платформы Google Meet и Zoom сэкономили ему около 40-50% времени по сравнению с ручными методами. Однако после загрузки инструментов на основе ИИ он заметил, что его компьютер зависает на 1-2 минуты, а его производительность также снизилась по сравнению с тем, что было раньше.

«Помимо ChatGPT, Copilot и Gemini, я поискал в магазине расширений Google Chrome и установил несколько инструментов искусственного интеллекта, таких как Sider, SearchGPT и Tactiq. С тех пор мой компьютер стал работать медленнее. Например, набор текста в файлах Word стал не таким плавным, а открытие простых приложений занимает на 5-7 секунд больше обычного, хотя это хороший ноутбук на рынке. В результате моя работа иногда прерывается, что вызывает отвлечение внимания и раздражение. Но меня беспокоит, не связано ли это с вирусной инфекцией и проникновением ИИ в устройство с целью кражи данных?» — обеспокоенно сказал г-н Санг.

Между тем, г-н Сюань Тхань, IT-специалист из Хошимина, чья основная работа заключается в устранении внутренних системных ошибок в компаниях, считает, что ИИ значительно облегчает его работу, требуя лишь описания ошибок и написания кода для их быстрого исправления. Однако он также опасается последствий ИИ для безопасности.

«Есть задачи, требующие немедленного применения ИИ, поэтому я вынужден его использовать. Но меня всё ещё беспокоит, что владельцы некоторых программ с ИИ могут использовать данные, собранные во время взаимодействия и заданных ИИ вопросов, для проникновения в системы пользователей. Или, когда ИИ собирает данные, предоставленные пользователями, злоумышленники могут запросить их, и предоставит ли ИИ эту информацию? Хотя пока никаких инцидентов, связанных с этим, не было, я всё ещё не уверен в безопасности ИИ», — скептически заметил г-н Тхань.

Программное обеспечение на основе искусственного интеллекта может быть причиной сбоев в работе компьютера.

Будьте осторожны при загрузке ИИ.

По словам заместителя директора Национального центра реагирования на чрезвычайные ситуации в области кибербезопасности Вьетнама (VNCERT) г-на Нгуена Хуу Нгуена, замедление работы компьютера и снижение производительности после загрузки программного обеспечения с искусственным интеллектом могут быть вызваны сложными функциями этого программного обеспечения, потребляющими большое количество системных ресурсов, а не обязательно вирусом.

Однако, по словам г-на Нгуена, пользователям следует проявлять осторожность при загрузке ИИ из ненадежных источников, поскольку он может содержать вредоносное ПО для взлома системы. Пользователям также следует уделять внимание защите данных, внимательно изучая политику конфиденциальности и условия использования инструментов ИИ, чтобы понимать, как они собирают и используют данные. Кроме того, при использовании ИИ необходимо контролировать доступ к устройству. Важные документы, в частности, не следует передавать ИИ, чтобы минимизировать риски.

Глава отдела разработки ИИ и проекта по борьбе с мошенничеством, г-н Та Конг Сон, считает, что замедление работы или даже зависание компьютеров после загрузки ИИ может быть вызвано недостаточным объемом оперативной памяти для обработки его функций. Однако это также является тревожным сигналом, указывающим на возможные риски для пользователей.

«Для обеспечения безопасности пользователям следует ограничивать доступ ИИ. Когда приложение запрашивает разрешение, пользователям необходимо тщательно обдумать, действительно ли предоставление этого разрешения необходимо и безопасно. Безопасный способ использования инструментов ИИ — это сканирование и проверка с помощью антивирусных приложений. Кроме того, пользователи могут использовать такие сайты, как Virustotal.com или Eset.com, чтобы проверить, содержит ли ИИ вредоносное ПО или является ли он безопасным», — рекомендовал г-н Сон.

На недавнем семинаре высокого уровня по кибербезопасности в 2024 году г-н Тран Сон Бинь, директор по бизнесу AMD Vietnam, заявил, что использование ChatGPT для написания кода, программирования или обобщения данных может привести к проблемам с безопасностью системы. Это связано с тем, что код, предоставляемый ИИ, может содержать вредоносный код, который ИИ может использовать для эксплуатации уязвимостей и изменения структур данных, тем самым ставя под угрозу безопасность и производительность системы.

Г-н Бинь подчеркнул: «Подразделениям необходимо контролировать своих сотрудников при использовании ИИ для составления отчетов и обобщения информации на основе предоставленных пользователями данных, особенно контента, связанного с коммерческой и государственной тайной. Сейчас мы все еще находимся в безопасной зоне, но кто знает, останутся ли эти данные в безопасности в будущем?»

Искусственный интеллект будет собирать данные.

По данным Gemini, простое общение в приложении помогает пользователям улучшать сервисы Google, включая модели машинного обучения, на которые опирается Gemini. В этом процессе улучшения обученные специалисты должны обрабатывать диалоги пользователей. «Поэтому при использовании Gemini не вводите информацию, которую вы не хотите показывать специалистам или которую вы не хотите, чтобы Google использовал», — советует Gemini.

Что касается Copilot, Microsoft заявляет, что собирает данные от пользователей посредством взаимодействия. Продукты на основе искусственного интеллекта, которые она предоставляет, основаны на пользовательском вводе, а некоторые генерируются платформой путем сбора данных о других интерактивных действиях.

Это означает, что когда пользователи делятся какой-либо информацией с ИИ, приложение собирает её, чтобы сделать инструмент умнее. Это подразумевает, что данные пользователей, которые они не хотят раскрывать другим, могут стать для них видимыми.

Источник: https://nld.com.vn/lam-dung-ai-coi-chung-du-lieu-kho-an-toan-196240330201849958.htm