Tisíce konverzací ChatGPT unikly na Googlu.

VHO - Vážný incident související s ChatGPT vyvolává v online komunitě rozruch, když se ve výsledcích vyhledávání Google náhle veřejně objevily tisíce zdánlivě soukromých konverzací.

Google má snadný přístup k konverzacím uživatelů v ChatGPT. Foto: DataDrivenInvestors.

Soukromé konverzace se stávají veřejnými daty

Podle zprávy společnosti Fast Company Google indexoval tisíce soukromých konverzací. To by mohla být jen „špička ledovce“, potenciálně by mohly být odhaleny další miliony.

I když tyto konverzace neobsahovaly přímo identifikační informace, mnoho uživatelů sdílelo extrémně citlivé osobní údaje, od vztahů až po traumatické zážitky, což umožňovalo identifikaci.

Všechno to začalo, když někteří experti na kybernetickou bezpečnost zjistili, že pouhým jednoduchým vyhledávacím dotazem na Googlu se uživatelé mohou snadno dostat k veřejně sdíleným chatům.

Uniklý obsah se neomezuje pouze na ukázkové odstavce a technické otázky, ale zahrnuje také osobní údaje, sdílení citlivé práce a dokonce i soukromé důvěrné informace.

Příčinou byla zjištěna funkce „Sdílet chat“, což je nástroj nasazený společností OpenAI, který pomáhá uživatelům sdílet obsah chatu s ostatními. Když uživatelé vyberou možnost „Umožnit tento chat zjistit“, systém vytvoří veřejný odkaz, který mohou vyhledávače indexovat.

Za zmínku stojí, že rozhraní této funkce není dostatečně přehledné, což vede k tomu, že mnoho lidí si mylně představuje sdílení obsahu pouze s přáteli nebo kolegy, místo aby jej zveřejnili online.

V reakci na negativní reakci společnost OpenAI okamžitě zakročila: pozastavila sdílení svých zjištění a spolupracovala s Googlem na odstranění příslušných odkazů.

Podle společnosti Fast Company bylo objeveno více než 4 500 takových odkazů, což není malý počet vzhledem k tomu, že ChatGPT má po celém světě stovky milionů uživatelů.

Znepokojivé je, že mnoho lidí používalo ChatGPT k psaní e-mailů, výměně pracovních informací, zneužívání lékařských informací nebo dokonce svěřování se s osobními psychickými problémy v domnění, že se jedná o soukromý prostor.

Varovné signály ohledně soukromí ve věku umělé inteligence

Tento incident vyvolává velké otázky ohledně odpovědnosti společností zabývajících se umělou inteligencí za uživatelská data. Poskytuje OpenAI dostatečnou transparentnost, aby uživatelé pochopili svá práva na ochranu soukromí? Je úroveň ochrany dat, kterou uživatelé dostávají, skutečně úměrná citlivosti obsahu?

Generální ředitel společnosti OpenAI Sam Altman varoval uživatele před sdílením citlivých osobních údajů se službou ChatGPT a připustil, že společnost by mohla být nucena takové informace poskytnout, pokud by to soud ze zákona vyžadoval.

Je však pozoruhodné, že Altman ve svých prohlášeních nezmínil, že konverzace, které uživatelé dobrovolně sdílejí, by mohly být veřejně indexovány vyhledávači.

Navíc to není poprvé, co je ChatGPT zpochybňován ohledně úniků dat. Výzkumníci varovali, že velké jazykové modely, jako je GPT, mohou „náhodně“ znovu vytvořit stará data, pokud se uživatelé ptají chytrým způsobem.

Nelze popřít, že nástroje jako ChatGPT způsobily revoluci ve způsobu, jakým lidé vyhledávají informace a vytvářejí obsah. Kromě pohodlí si však uživatelé musí být vědomi toho, že nic není zcela soukromé bez silných technologických bariér a pečlivého osobního dodržování pravidel.

Zdroj: https://baovanhoa.vn/nhip-song-so/hang-nghin-cuoc-tro-chuyen-chatgpt-bi-ro-ri-cong-khai-tren-google-158723.html