Tisíce konverzací ChatGPT zveřejněných na Googlu, na co by si měli uživatelé dát pozor?

Po incidentu, kdy byly na Googlu odhaleny tisíce uživatelských konverzací na ChatGPT, bezpečnostní experti varují: Umělá inteligence je užitečným podpůrným nástrojem, ale ne „bezpečnou černou skříňkou“.

Funkce pro sdílení chatů prostřednictvím veřejného odkazu na ChatGPT - Foto: Techradar

ChatGPT nyní denně oslovuje přes 2,5 miliardy dotazů od uživatelů z celého světa, což ukazuje rostoucí popularitu tohoto chatbota.

Tento nástroj se však setkává se silnou negativní reakcí uživatelů, protože funkce „sdílení“ způsobila, že tisíce konverzací unikly citlivé informace Googlu a některým vyhledávačům na internetu.

Vysoké bezpečnostní riziko

Pan Vu Ngoc Son - vedoucí technologického oddělení Národní asociace pro kybernetickou bezpečnost (NCA) - vyhodnotil výše uvedený incident jako vysokou úroveň bezpečnostního rizika pro uživatele ChatGPT.

„Výše uvedený incident nemusí být nutně technickou závadou, protože při kliknutí na tlačítko sdílení jde o určitou iniciativu uživatele. Lze však říci, že problém spočívá v designu produktu AI chatbot, který uživatele zmátl a neexistují dostatečně silná varovná opatření před rizikem úniku osobních údajů, pokud je uživatelé sdílejí,“ analyzoval pan Vu Ngoc Son.

Na ChatGPT je tato funkce implementována poté, co se uživatel rozhodne sdílet chat prostřednictvím veřejného odkazu. Obsah bude uložen na serveru OpenAI jako veřejná webová stránka (chatgpt.com/share/...), pro přístup není vyžadováno žádné přihlašovací jméno ani heslo.

Prohledávače Googlu tyto stránky automaticky prohledávají a indexují, čímž je zobrazují ve výsledcích vyhledávání, a to včetně citlivého textu, obrázků nebo dat z chatu.

Mnoho uživatelů si rizika nebylo vědomo a mysleli si, že chat sdílejí s přáteli nebo kontakty. To vedlo k odhalení tisíců konverzací, v některých případech obsahujících citlivé osobní údaje.

Ačkoli OpenAI tuto funkci koncem července 2025 po negativní reakci komunity rychle odstranila, koordinace s Googlem ohledně odstranění starých indexů stále trvala nějakou dobu. Zejména s ohledem na složitý systém úložiště, který zahrnuje mezipaměťové servery Googlu, to nelze provést rychle.

Neberte chatboty s umělou inteligencí jako „bezpečnostní černou skříňku“

Expert na datovou bezpečnost Vu Ngoc Son - vedoucí technologického oddělení Národní asociace pro kybernetickou bezpečnost (NCA) - Foto: CHI HIEU

Únik tisíců chatovacích protokolů může pro uživatele představovat rizika, jako je odhalení osobních a obchodních tajemství, poškození pověsti, finanční rizika nebo dokonce bezpečnostní rizika v důsledku odhalení adres bydliště.

„Chatboti s umělou inteligencí jsou užiteční, ale nejedná se o „černou skříňku“, protože sdílená data mohou na webu existovat navždy, pokud se nekontrolují.“

Výše uvedený incident je jistě ponaučením jak pro poskytovatele, tak pro uživatele. Ostatní poskytovatelé služeb umělé inteligence se z této zkušenosti mohou poučit a navrhnout funkce s jasnějšími a transparentnějšími varováními.

Zároveň je nutné, aby uživatelé proaktivně omezovali nekontrolované zveřejňování identifikačních nebo osobních údajů na platformách umělé inteligence,“ doporučil bezpečnostní expert Vu Ngoc Son.

Podle expertů na bezpečnost dat výše uvedený incident ukazuje potřebu právních koridorů a standardů kybernetické bezpečnosti pro umělou inteligenci. Dodavatelé a vývojáři umělé inteligence musí také navrhnout systémy, které zajistí bezpečnost a vyhnou se riziku úniku dat, jako je: únik dat prostřednictvím závažných zranitelností; softwarové zranitelnosti vedoucí k útokům na databáze; špatná kontrola vedoucí k otravě dat, zneužití k zodpovězení nepravdivých a zkreslených otázek.

Uživatelé si také musí kontrolovat sdílení osobních údajů s umělou inteligencí, nikoli sdílení citlivých informací. V případě skutečné potřeby je vhodné použít anonymní režim nebo aktivně šifrovat informace, aby se zabránilo přímému propojení dat s konkrétními osobami.

Zpět k tématu

Synovská zbožnost

Zdroj: https://tuoitre.vn/hang-ngan-cuoc-tro-chuyen-voi-chatgpt-bi-lo-tren-google-nguoi-dung-luu-y-gi-20250805152646255.htm