Tisíce chatů ChatGPT zobrazených na Googlu, na co by si měli uživatelé dát pozor?

Po incidentu, kdy byly na Googlu odhaleny tisíce uživatelských konverzací na ChatGPT, bezpečnostní experti varují: Umělá inteligence je užitečným podpůrným nástrojem, ale ne „bezpečnou černou skříňkou“.

Funkce sdílení chatu přes veřejný odkaz na ChatGPT - Foto: Techradar

ChatGPT nyní denně oslovuje přes 2,5 miliardy dotazů od uživatelů z celého světa, což ukazuje rostoucí popularitu tohoto chatbota.

Tento nástroj se však setkává se silnou negativní reakcí uživatelů, protože funkce „sdílení“ způsobila, že tisíce konverzací unikly citlivé informace do Googlu a několika internetových vyhledávačů.

Vysoké bezpečnostní riziko

Pan Vu Ngoc Son - vedoucí technologického oddělení Národní asociace pro kybernetickou bezpečnost (NCA) - vyhodnotil výše uvedený incident jako vysokou úroveň bezpečnostního rizika pro uživatele ChatGPT.

„Výše uvedený incident nemusí být nutně technickou závadou, protože při kliknutí na tlačítko sdílení jde o určitou iniciativu uživatele. Lze však říci, že problém spočívá v designu produktu AI chatbot, který uživatele zmátl a neexistují dostatečně silná varovná opatření ohledně rizika úniku osobních údajů, pokud je uživatelé sdílejí,“ analyzoval pan Vu Ngoc Son.

Na ChatGPT je tato funkce implementována poté, co se uživatel rozhodne sdílet chat prostřednictvím veřejného odkazu. Obsah bude uložen na serveru OpenAI jako veřejná webová stránka (chatgpt.com/share/...), pro přístup není vyžadováno žádné přihlašovací jméno ani heslo.

Prohledávače Googlu tyto stránky automaticky prohledávají a indexují, čímž je zobrazují ve výsledcích vyhledávání, včetně textu, obrázků nebo citlivých dat z chatu.

Mnoho uživatelů si rizika nebylo vědomo a mysleli si, že sdílejí chaty s přáteli nebo kontakty. To vedlo k odhalení tisíců konverzací, z nichž některé obsahovaly citlivé osobní údaje.

Ačkoli OpenAI tuto funkci koncem července 2025 po negativní reakci komunity rychle odstranila, koordinace s Googlem ohledně odstranění starých indexů stále trvala nějakou dobu. Zejména s ohledem na složitý systém úložiště, který zahrnuje mezipaměťové servery Googlu, to nelze provést rychle.

Neberte chatboty s umělou inteligencí jako „bezpečnostní černou skříňku“

Expert na datovou bezpečnost Vu Ngoc Son - vedoucí technologického oddělení Národní asociace pro kybernetickou bezpečnost (NCA) - Foto: CHI HIEU

Únik tisíců chatů může pro uživatele představovat rizika, jako je odhalení osobních tajemství, obchodních tajemství, poškození pověsti, finanční rizika nebo dokonce bezpečnostní rizika při odhalování adres bydliště.

„Chatboti s umělou inteligencí jsou užiteční, ale nejedná se o „černou skříňku“, protože sdílená data mohou na webu žít navždy, pokud se nekontrolují.“

Tento incident je jistě ponaučením jak pro poskytovatele, tak pro uživatele. Ostatní poskytovatelé služeb umělé inteligence se z této zkušenosti mohou poučit a navrhnout funkce s jasnějšími a transparentnějšími varováními.

„Zároveň musí uživatelé proaktivně omezovat nekontrolované zveřejňování osobně identifikovatelných nebo důvěrných informací na platformách umělé inteligence,“ doporučil bezpečnostní expert Vu Ngoc Son.

Podle expertů na bezpečnost dat výše uvedený incident ukazuje, že je zapotřebí právních koridorů a standardů kybernetické bezpečnosti pro umělou inteligenci. Dodavatelé a vývojáři umělé inteligence musí také navrhnout systémy, které zajistí bezpečnost a vyhnou se riziku úniku dat, jako je: únik prostřednictvím závažných zranitelností; softwarové zranitelnosti vedoucí k útokům na databáze; špatná kontrola vedoucí k otravě dat, zneužití k zodpovězení zavádějících a zkreslených otázek.

Uživatelé si také musí hlídat sdílení osobních údajů s umělou inteligencí a nesdílet citlivé informace. V případech, kdy je to skutečně nutné, je vhodné použít anonymní režim nebo aktivně šifrovat informace, aby se zabránilo přímému propojení dat s konkrétními osobami.

Zpět k tématu

ZBOŽNOST

Zdroj: https://tuoitre.vn/hang-ngan-cuoc-tro-chuyen-voi-chatgpt-bi-lo-tren-google-nguoi-dung-luu-y-gi-20250805152646255.htm