Вразливість безпеки Microsoft Copilot: нове попередження про ризик витоку даних штучного інтелекту

Серйозний недолік безпеки в Microsoft Copilot дозволяє викрадати дані користувачів без жодних дій. Цей інцидент порушує важливе питання: чи допомагає нам штучний інтелект, чи наражає нас на небезпеку?

EchoLeak та потенційні ризики штучного інтелекту

Оскільки штучний інтелект (ШІ) стає частиною кожної роботи, від допомоги в написанні звітів і відповідей на електронні листи до аналізу даних, користувачі, здається, живуть в епоху безпрецедентної зручності. Але темна сторона зручності також починає проявлятися, особливо коли йдеться про безпеку.

Нещодавня вразливість системи безпеки під назвою EchoLeak поставила користувачів сервісу Microsoft Copilot під загрозу витоку їхніх конфіденційних даних без будь-яких дій з їхнього боку.

Коли ШІ стає вразливістю безпеки

Згідно з дослідженням Tuoi Tre Online , EchoLeak — це вразливість безпеки з кодом CVE-2025-32711, яку експерти оцінили як небезпечну на рівні 9,3/10 за шкалою NIST.

Експертів з безпеки турбує його «нульовий клік» : зловмисники можуть використовувати дані з Copilot без необхідності натискати кнопку миші, відкривати файл і навіть не знати, що відбувається.

Це не проста помилка. Дослідницька група Aim Labs, яка виявила цю вразливість, вважає, що EchoLeak відображає поширений недолік проектування в RAG (генерація з доповненим пошуком) та системах штучного інтелекту на основі агентів. Оскільки Copilot є частиною пакету програм Microsoft 365, який містить електронні листи, документи, електронні таблиці та розклади зустрічей мільйонів користувачів, ризик витоку даних є дуже серйозним.

Проблема полягає не лише в конкретному коді, а й у способі роботи великих мовних моделей (LLM). ШІ потребує багато контексту для точної реакції, тому йому надається доступ до великих обсягів фонових даних. Без чіткого контролю над вхідними та вихідними даними, ШІ може бути «керований» способами, про які користувачі не знають. Це створює новий вид «бекдору» не через недолік у коді, а тому, що ШІ поводиться поза межами людського розуміння.

Microsoft швидко випустила патч, і поки що жодних реальних збитків не повідомлялося. Але урок EchoLeak очевидний: коли штучний інтелект глибоко інтегрований у робочі системи, навіть невеликі помилки в тому, як він розуміє контекст, можуть мати серйозні наслідки для безпеки.

Чим зручніший штучний інтелект, тим крихкіші персональні дані

Інцидент з EchoLeak порушує тривожне питання: чи настільки користувачі довіряють штучному інтелекту, що не усвідомлюють, що їх можна відстежувати або розкривати їхню особисту інформацію лише за допомогою текстового повідомлення? Нещодавно виявлена ​​вразливість, яка дозволяє хакерам непомітно витягувати дані, не натискаючи жодних кнопок користувачами, – це те, що колись можна було побачити лише у науково-фантастичних фільмах, але тепер це реальність.

Хоча програми штучного інтелекту стають дедалі популярнішими, від віртуальних помічників, таких як Copilot, чат-ботів у банківській справі та освіті до платформ штучного інтелекту, які пишуть контент та обробляють електронні листи, більшість людей не попереджають про те, як обробляються та зберігаються їхні дані.

«Спілкування» з системою штучного інтелекту – це вже не просто запитання для зручності, а й ненавмисно розкриття вашого місцезнаходження, звички, емоції чи навіть інформацію про обліковий запис.

У В'єтнамі багато людей знайомі з використанням штучного інтелекту на телефонах і комп'ютерах, не маючи базових знань про цифрову безпеку . Багато людей діляться особистою інформацією зі штучним інтелектом, оскільки вважають, що це «просто машина». Але насправді за цим стоїть система, яка може записувати, навчатися та передавати дані в інші місця, особливо коли платформа штучного інтелекту надходить від третьої сторони та не пройшла чіткого тестування на безпеку.

Щоб обмежити ризики, користувачам не обов'язково відмовлятися від технологій, але вони повинні бути більш усвідомленими: їм слід ретельно перевіряти, чи має додаток штучного інтелекту, який вони використовують, надійне джерело, чи зашифровані дані, і особливо не ділитися конфіденційною інформацією, такою як номери ідентифікаційних карток, банківські рахунки, медична інформація... з будь-якою системою штучного інтелекту без чіткого попередження.

Так само, як і на початку існування інтернету, штучному інтелекту також потрібен час для вдосконалення, і протягом цього часу користувачі повинні першими проактивно захищати себе.

Ви коли-небудь ділилися забагато інформації зі штучним інтелектом?

Вводячи команду «перепишіть цей звіт для мене, але в більш дружній формі» або «підсумуйте вчорашню зустріч», багато людей не думають, що вся інформація, яку вони вводять, включаючи внутрішні деталі, особисті почуття чи робочі звички, може бути записана штучним інтелектом. Ми поступово звикли спілкуватися за допомогою розумних інструментів, забуваючи про межу між зручністю та конфіденційністю.

Повернутися до теми

ТУАН VI

Джерело: https://tuoitre.vn/lo-hong-bao-mat-trong-microsoft-copilot-canh-bao-moi-ve-nguy-co-ro-ri-du-lieu-tu-ai-20250620103045262.htm