Hackerii exploatează „personalitatea” chatboților cu inteligență artificială.

(Foto: Freepik)

Hackerii exploatează „personalitatea” chatboților cu inteligență artificială în moduri din ce în ce mai sofisticate, atacurile nemaibazându-se exclusiv pe programe malware sau vulnerabilități tehnice, ci trecând la un limbaj manipulator.

În primele etape, „hacking-ul” chatbot-urilor cu inteligență artificială era destul de simplu. Utilizatorii trebuiau doar să instruiască sistemul să ignore instrucțiunile anterioare, să se prefacă că nu sunt legați de reguli sau să joace rolul unei inteligențe artificiale neconstrânse. Aceste metode se numesc „jailbreaking”, ceea ce înseamnă păcălirea modelului de inteligență artificială pentru a ocoli instrucțiunile sigure.

Unul dintre tipurile de atac proeminente din trecut a fost „DAN”, prescurtare de la „Do Anything Now” (Fă orice acum), în care utilizatorii le cereau celor de la ChatGPT să joace rolul unei inteligențe artificiale capabile să facă orice. Un alt exemplu este „exploatarea bunicii”, în care un chatbot este păcălit să joace rolul unei bunici care spune povești copiilor, dar conținutul este apoi direcționat către informații periculoase.

Companiile de tehnologie au remediat rapid multe dintre vulnerabilitățile demodate, dar slăbiciunile subiacente rămân. Chatboții sunt concepuți pentru conversație, așa că restricționarea excesivă a dialogului poate diminua utilitatea sistemului. Între timp, simpla interzicere a cuvintelor sensibile nu este suficientă, deoarece multe cuvinte pot apărea în contexte legitime, cum ar fi istoria, medicina, jurnalismul sau chimia.

Conform articolului, cursa pentru securitatea inteligenței artificiale nu mai este doar o problemă a programatorilor. Cei care încearcă să ocolească securitatea chatbot-urilor seamănă din ce în ce mai mult cu scriitorii, psihologii sau anchetatorii, folosind lingușirea, presiunea, înșelăciunea sau manipularea pentru a-i face pe modele să-și lase garda jos.

Potrivit companiei de testare a securității inteligenței artificiale Mindgard, unele atacuri seamănă acum mai mult cu psihologia decât cu informatica . Modelele de inteligență artificială nu au emoții precum oamenii, dar sunt antrenate să reacționeze ca și cum ar avea. Această simulare poate crea diferite tipuri de reacții, făcând ca fiecare chatbot să pară că are propria „personalitate”.

Aceasta reprezintă o nouă provocare, deoarece agenții IA sunt din ce în ce mai utilizați pentru programare, gestionarea sarcinilor, comandarea de alimente sau serviciul clienți. Dacă modelele pot fi manipulate prin conversație, forțele de securitate vor trebui să își examineze atât limitele sociale, cât și cele emoționale, pe lângă vulnerabilitățile tehnice tradiționale.

Sursă: https://vtv.vn/tin-tac-khai-thac-tinh-cach-cua-chatbot-ai-10026052519025336.htm