ChatGPT expune informații personale din cauza unei erori „absurde”

O echipă de cercetători spune că au reușit să facă ChatGPT să dezvăluie anumite date spunându-i inteligenței artificiale să repete cuvinte aleatorii.

Cercetătorii de la Google DeepMind, Universitatea din Washington, Universitatea Cornell, Universitatea Carnegie Mellon, Universitatea din California, Berkeley și ETH Zurich au solicitat companiilor de inteligență artificială să își testeze temeinic produsele, de la modele lingvistice mari până la tehnologia care stă la baza serviciilor de inteligență artificială, cum ar fi chatboții și generatoarele de imagini, înainte de a le lansa oficial.

Avertismentul a venit după ce cercetătorii au cerut companiei ChatGPT să repete cuvântul „poem” într-o buclă nesfârșită. ChatGPT s-a conformat, dar apoi a început să dezvăluie adresa de e-mail și numărul de telefon reale ale CEO-ului și co-fondatorului OpenAI. Când a fost testat cu cuvântul „company”, chatbot-ul a afișat adresa de e-mail și numărul de telefon ale unei firme de avocatură aleatorii.

Sigla ChatGPT afișată pe smartphone. Fotografie: Reuters

Folosind alte cuvinte cheie, au reușit, de asemenea, să determine ChatGPT să dezvăluie adrese Bitcoin, numere de fax, nume, date de naștere, conturi de socializare, extrase din lucrări de cercetare protejate prin drepturi de autor sau articole plătite de la CNN . Echipa a cheltuit doar 200 de dolari pentru a genera 10.000 de exemple de informații și date personale.

Cercetătorii au declarat că au fost surprinși, numind vulnerabilitatea ChatGPT „foarte stupidă” și spunând că ar fi trebuit descoperită mai devreme.

Vulnerabilitatea a fost raportată către OpenAI și corectată pe 30 august. Cu toate acestea, în noul test al Engadget , atunci când i se cerea ChatGPT să repete cuvântul „răspuns” la nesfârșit, site-ul tehnic primea apoi numele și ID-ul Skype al cuiva.

OpenAI nu a comentat încă.

Inteligența artificială generativă precum ChatGPT sau generatorul de text-imagine Dall-E sunt construite pe modele lingvistice mari și algoritmi de învățare automată, antrenați pe cantități masive de date fără consimțământul utilizatorului. OpenAI nu a dezvăluit cu ce date este antrenat ChatGPT, deoarece modelul lingvistic mare care îl alimentează este cu sursă închisă.

Conform lui Huy Duc - VnExpress

Sursă