Тысячи разговоров ChatGPT попали в открытый доступ в Google

Частные разговоры становятся публичными данными

Согласно отчёту Fast Company, Google проиндексировал тысячи личных разговоров. Это может быть лишь «вершиной айсберга», поскольку ещё миллионы потенциально уязвимы.

Хотя эти разговоры не содержали напрямую идентифицирующей информации, многие пользователи делились крайне конфиденциальными личными подробностями — от отношений до травматического опыта, — что сделало идентификацию возможной.

Все началось с того, что эксперты по кибербезопасности обнаружили, что с помощью простого запроса в Google пользователи могут легко получить доступ к публично доступным чатам.

Утечка контента не ограничивается примерами абзацев и техническими вопросами, но также включает в себя личную информацию, конфиденциальную информацию о совместной работе и даже частную конфиденциальную информацию.

Причиной оказалась функция «Поделиться чатом» — утилита, разработанная OpenAI для того, чтобы пользователи могли делиться содержимым чата с другими. Когда пользователи выбирают опцию «Сделать этот чат видимым», система создаёт публичную ссылку, которую могут индексировать поисковые системы.

Стоит отметить, что интерфейс этой функции недостаточно понятен, из-за чего многие люди ошибочно полагают, что они просто делятся контентом с друзьями или коллегами, а не публикуют его в открытом доступе в сети.

В ответ на негативную реакцию компания OpenAI приняла немедленные меры: приостановила публикацию своих результатов и обратилась в Google с просьбой удалить соответствующие ссылки.

По данным Fast Company, было обнаружено более 4500 таких ссылок, что является немалым числом, учитывая, что у ChatGPT сотни миллионов пользователей по всему миру.

Беспокоит то, что многие люди используют ChatGPT для написания электронных писем, обмена рабочими заданиями, использования медицинской информации или даже для рассказа о личных психологических проблемах, полагая, что это личное пространство.

Тревожные звонки по поводу конфиденциальности в эпоху искусственного интеллекта

Инцидент поднимает серьёзные вопросы об ответственности компаний, работающих в сфере ИИ, за данные пользователей. Обеспечивает ли OpenAI достаточную прозрачность, позволяющую пользователям понимать свои права на конфиденциальность? Действительно ли уровень защиты данных, предоставляемый пользователям, соответствует степени конфиденциальности контента?

Генеральный директор OpenAI Сэм Альтман предостерег пользователей от предоставления конфиденциальных личных данных ChatGPT, признав, что компания может быть вынуждена предоставить такую информацию, если этого потребует суд.

Однако примечательно, что в своих заявлениях Альтман не упомянул, что разговоры, которыми пользователи добровольно делятся, могут быть публично проиндексированы в поисковых системах.

Более того, это не первый случай, когда ChatGPT подвергается сомнению в связи с утечками данных. Исследователи предупреждают, что крупные языковые модели, такие как GPT, могут «случайно» воссоздавать старые данные, если пользователи задают вопросы нестандартно.

Нельзя отрицать, что такие инструменты, как ChatGPT, произвели революцию в поиске информации и создании контента. Однако, помимо удобства, пользователи должны понимать, что по-настоящему конфиденциальная информация невозможна без серьёзных технологических барьеров и тщательного подхода к личным данным.

Источник: https://baovanhoa.vn/nhip-song-so/hang-nghin-cuoc-tro-chuyen-chatgpt-bi-ro-ri-cong-khai-tren-google-158723.html