Hackerii pot obține informații confidențiale despre companii „vorbind” cu un chatbot bazat pe inteligență artificială

Potrivit experților în tehnologie, prin utilizarea unei serii de solicitări sofisticate, hackerii pot pătrunde în baza de date „confidențială” a unei companii fără a fi detectați.

Prezentare generală a evenimentului OpenInfra & Cloud Native Day Vietnam 2025 cu tema „Era revoluției digitale a Vietnamului” - Foto: CHI HIEU

Inteligența Artificială (IA) aduce multe valori, mai ales că este integrată acum de multe companii pentru a servi utilizatorii finali, cum ar fi angajații companiilor, clienții... De aici, sistemele de chatbot integrate cu IA pot deveni o „ușă îngustă” pentru hackeri, care pot ataca și fura informații din sistemele de stocare a datelor.

„În prezent, există numeroase metode de atacare a modelelor de inteligență artificială, cea mai frecventă fiind «otrăvirea conținutului», care pare a fi «invizibilă» pentru sistemele tradiționale de protecție a informațiilor”, a avertizat dl. Dao Viet Hung, director de țară al Akamai Technologies Vietnam, la evenimentul OpenInfra & Cloud Native Day Vietnam 2025, care a avut loc pe 26 iulie la Hanoi .

Evenimentul a fost organizat de Asociația Vietnameză pentru Internet (VIA) în coordonare cu Comunitatea Vietnamului pentru Infrastructură Deschisă (VietOpenInfra), Clubul Vietnamului pentru Cloud Computing și Centre de Date (VNCDC), cu sprijinul Ministerului Științei și Tehnologiei .

90% dintre companii utilizează platforme sau software deschis

În discursul său de deschidere, dl. Vu The Binh - vicepreședinte și secretar general al Asociației de Internet din Vietnam - a subliniat importanța infrastructurii deschise și a codului open source în procesul național de transformare digitală.

În contextul schimbărilor rapide din tehnologia globală, dl Binh a afirmat că infrastructura deschisă continuă să se dezvolte ca fundament pentru inovare, în condițiile în care peste 90% dintre companii utilizează platforme sau software deschis în diverse forme.

Conform unui sondaj Red Hat (2024), 82% dintre liderii din domeniul tehnologiei consideră platformele și software-ul deschis ca fiind esențiale pentru impulsionarea transformării digitale și accelerarea inovației. Platforme precum Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry joacă un rol din ce în ce mai important în operarea sistemelor de inteligență artificială, IoT, 5G/6G și cloud native.

„Acum 10 ani, cloud-ul putea fi confundat cu norii de pe cer, iar open source-ul suna ca un «secret de arte marțiale». Dar astăzi, suntem aici, conectându-ne cu comunitatea globală Open Infrastructure din peste 180 de țări, transformând împreună liniile de cod în forța motrice a inovației”, a declarat dl. Vu The Binh.

Chatbot cu inteligență artificială - „ușă îngustă” pentru hackeri care pot pătrunde în sistem

„În prezent, multe companii aplică cu tărie eficacitatea platformelor deschise și responsive care integrează sisteme precum chatbot-urile cu inteligență artificială pentru a îmbunătăți performanța la locul de muncă și a îmbunătăți experiența utilizatorului.”

Tot de aici, numeroase metode de atac asupra modelelor de inteligență artificială, inclusiv atacuri de tip „content poisoning”, a avertizat dl. Dao Viet Hung, directorul de țară al Akamai Technologies Vietnam.

El a comentat că, atunci când companiile vietnameze implementează inteligența artificială, încă nu știu prea multe despre această formă de atac.

Prin urmare, răufăcătorii folosesc metoda de a solicita și re-preda continuu modelului de IA informații false, provocând „intoxicația” cu informații.

Dacă informațiile din sistemul cloud au fost „infectate” și nu sunt detectate și continuă să fie utilizate, acestea vor furniza informații incorecte sau vor folosi această vulnerabilitate pentru a se strecura în baza de date în scopul obținerii de informații.

Dl. Dao Viet Hung, director de țară al Akamai Technologies Vietnam - Fotografie: CHI HIEU

Dl. Dao Viet Hung a citat o întâmplare rară, aceea în care sistemul de chatbot pentru vânzări online al unei companii auto a fost convins să vândă o mașină nouă pentru doar 1 dolar.

Motivul este că, în timpul procesului de schimb și negociere cu chatbotul, acest client a găsit o modalitate de a se „strecura” în baza de date și de a convinge chatbotul să fie de acord cu solicitarea de mai sus.

Un alt exemplu este atunci când hackerii au obținut cu succes toate documentele confidențiale și organigramele unei companii doar prin formularea de întrebări adecvate și trimiterea lor către chatbot-ul intern bazat pe inteligență artificială.

Față de acest risc, dl. Dao Viet Hung a prezentat soluția de securitate bazată pe inteligență artificială, astfel încât inteligența artificială însăși să poată proteja inteligența artificială, o formă utilizată de multe companii mari din lume .

Cu această metodă de securitate, datele stocate integrează mai multe straturi de protecție, ceea ce face dificilă „infectarea”.

Sistemul de securitate bazat pe inteligență artificială poate detecta care informații sunt curate și care informații prezintă riscuri potențiale de atac, pornind de la care va exista un plan de gestionare rapid și adecvat...

Înapoi la subiect

PIETATE

Sursă: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm