Prezentare generală a evenimentului OpenInfra & Cloud Native Day Vietnam 2025 cu tema „Era progresului digital în Vietnam” - Foto: CHI HIEU
Inteligența artificială (IA) oferă numeroase beneficii și este acum integrată de multe companii pentru a servi utilizatorii finali, cum ar fi angajații și clienții companiilor. Cu toate acestea, această integrare poate crea și vulnerabilități care permit hackerilor să atace și să fure informații din sistemele de stocare a datelor.
„În prezent, există numeroase metode de atacare a modelelor de inteligență artificială, cea mai frecventă fiind «otrăvirea conținutului», un tip de atac care pare «invizibil» pentru sistemele tradiționale de protecție a informațiilor”, a avertizat dl. Dao Viet Hung, director de țară al Akamai Technologies Vietnam, la evenimentul OpenInfra & Cloud Native Day Vietnam 2025, care a avut loc pe 26 iulie la Hanoi .
Evenimentul a fost organizat de Asociația Vietnameză de Internet (VIA) în colaborare cu Comunitatea Vietnamului pentru Infrastructură Deschisă (VietOpenInfra), Clubul Vietnamez pentru Cloud Computing și Centre de Date (VNCDC), cu sprijinul Ministerului Științei și Tehnologiei .
90% dintre companii utilizează platforme sau software open-source.
În discursul său de deschidere, dl. Vu The Binh, vicepreședinte și secretar general al Asociației de Internet din Vietnam, a subliniat importanța infrastructurii deschise și a sursei deschise în procesul național de transformare digitală.
În contextul tehnologiei globale aflate în rapidă schimbare, dl Binh a afirmat că infrastructura deschisă continuă să se dezvolte ca fundament pentru inovare, peste 90% dintre companii utilizând platforme sau software deschis sub diverse forme.
Conform unui sondaj Red Hat (2024), 82% dintre liderii din domeniul tehnologiei consideră platformele și software-ul deschis ca fiind esențiale pentru impulsionarea transformării digitale și accelerarea inovației. Platforme precum Kubernetes, OpenStack, Linux, Ceph și OpenTelemetry joacă un rol din ce în ce mai important în funcționarea sistemelor de inteligență artificială, IoT, 5G/6G și cloud native.
„Acum zece ani, norul ar fi putut fi confundat cu un nor pe cer, iar open source-ul ar fi putut suna ca o «tehnică secretă de arte marțiale». Dar astăzi, suntem aici, conectându-ne cu comunitatea globală Open Infrastructure din peste 180 de țări, lucrând împreună pentru a transforma liniile de cod într-o forță motrice pentru inovație”, a declarat dl. Vu The Binh.
Chatboți cu inteligență artificială – o „fereastră îngustă” pentru hackeri, care se pot infiltra în sisteme.
„În prezent, multe companii aplică puternic beneficiile platformelor deschise și responsive, cu sisteme integrate, precum chatbot-urile bazate pe inteligență artificială, pentru a îmbunătăți eficiența muncii și a îmbunătăți experiența utilizatorului.”
Din acest punct apar numeroase metode de atac care vizează modelele de inteligență artificială, inclusiv atacurile de „otrăvire a conținutului”, a avertizat Dao Viet Hung, directorul de țară al Akamai Technologies Vietnam.
El a menționat că firmele vietnameze, atunci când implementează inteligența artificială, încă nu au suficiente cunoștințe despre acest tip de atac.
Prin urmare, actorii rău intenționați folosesc metoda de a solicita și reînvăța în mod repetat informații false modelelor de IA, provocând „intoxicația” cu informații.
Dacă informațiile din sistemul cloud au fost „infectate”, dar rămân nedetectate și continuă să fie utilizate, acestea vor furniza informații inexacte sau vor exploata această vulnerabilitate pentru a accesa baza de date în scopul furtului de informații.
Dl. Dao Viet Hung, Director de țară al Akamai Technologies Vietnam - Fotografie: CHI HIEU
Domnul Dao Viet Hung a citat povești neobișnuite, cum ar fi cea în care un sistem de chatbot pentru vânzări online al unei companii auto a fost convins să vândă o mașină nouă pentru doar 1 dolar.
Motivul este că, în timpul procesului de schimb și negociere cu chatbot-ul, acest client a reușit să „ocolească” baza de date și să convingă chatbot-ul să fie de acord cu solicitarea.
Un alt exemplu arată cum un hacker a reușit să obțină toate documentele confidențiale și organigramele unei companii, pur și simplu prin formularea de întrebări potrivite și trimiterea lor către un chatbot intern cu inteligență artificială.
Pe baza acestui risc, dl. Dao Viet Hung a prezentat o soluție de securitate bazată pe inteligență artificială, în care inteligența artificială protejează inteligența artificială, o metodă utilizată de multe companii mari din întreaga lume .
Cu această metodă de securitate, datele stocate încorporează mai multe straturi de protecție, ceea ce face dificilă „infectarea”.
Sistemele de securitate cu inteligență artificială pot detecta care informații sunt curate și care informații prezintă un risc potențial de atac și apoi pot lua măsuri rapide și adecvate...
Sursă: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm
Comentariu (0)