Эта функция предназначена для повышения защиты от атак с внедрением вредоносных инструкций, то есть от внедрения вредоносных инструкций в онлайн-контент или файлы данных с целью повлиять на поведение чат-бота, что увеличивает риск утечки конфиденциальной информации.

При включении режима блокировки в разделе «Настройки > Безопасность» ChatGPT ограничит или отключит определенные функции, подключающиеся к интернету и внешним сервисам.
В частности, функция прямого просмотра веб-страниц может получать доступ только к кэшированному контенту, ChatGPT не отображает и не извлекает изображения из интернета, а такие функции, как «Глубокое исследование», «Режим агента», автоматическая загрузка файлов для анализа данных, заблокированы, в то время как исходный код Canvas не может подключаться к сети.
Пользователи по-прежнему могут загружать файлы вручную и использовать функцию создания изображений с помощью ИИ, как обычно.
Однако, как отмечает OpenAI, режим блокировки не может полностью предотвратить атаки с внедрением вредоносных инструкций, поскольку вредоносные инструкции могут по-прежнему присутствовать в сохраненном контенте или в файлах, загруженных пользователем. Тем не менее, эта функция значительно снижает риск непреднамеренной передачи конфиденциальных данных.
По данным OpenAI, режим блокировки подходит не всем, а скорее отдельным лицам и организациям, которые часто работают с конфиденциальными данными и нуждаются в более строгой защите от риска утечки информации.
Кроме того, OpenAI также внедрила функцию активных сессий, позволяющую пользователям отслеживать историю входов в систему, проверять информацию об устройстве, предполагаемое местоположение, подключенные приложения и удаленно выходить из системы на ненадежных устройствах.
Расширение режима блокировки показывает, что OpenAI усиливает меры по защите пользователей от все более сложных угроз кибербезопасности, даже если это означает отказ от некоторых передовых онлайн-функций ИИ.
Источник: https://baovanhoa.vn/nhip-song-so/openai-ra-mat-che-do-khoa-bao-ve-du-lieu-cho-chatgpt-235417.html










