O nouă tehnică ajută la prevenirea învățării de către inteligența artificială din date neautorizate

Oamenii de știință australieni au dezvoltat o nouă tehnică ce ar putea împiedica sistemele de inteligență artificială (IA) să învețe ilegal din imagini, opere de artă și alt conținut online.

Tehnica, dezvoltată de agenția națională de știință a Australiei (CSIRO), modifică subtil conținutul imaginilor pentru a le face ilizibile pentru modelele de inteligență artificială, rămânând în același timp nealterate pentru ochiul uman, conform unui proiect dezvoltat de CSIRO în colaborare cu Centrul de Cercetare Cooperativă în Securitate Cibernetică (CSCRC) din Australia și Universitatea din Chicago.

Autorii spun că această descoperire ar putea ajuta artiștii, organizațiile și utilizatorii de rețele sociale să își protejeze munca și datele personale, împiedicându-le să fie utilizate pentru antrenarea sistemelor de inteligență artificială sau pentru crearea deepfake-urilor – videoclipuri , imagini sau fișiere audio false, extrem de realiste, create de inteligența artificială. De exemplu, utilizatorii ar putea aplica automat un strat protector imaginilor înainte de a le posta, împiedicând inteligența artificială să învețe trăsăturile faciale pentru a crea deepfake-uri.

În mod similar, organizațiile de apărare ar putea proteja imaginile satelitare sensibile sau datele despre amenințările cibernetice.

Potrivit Dr. Derui Wang, om de știință la CSIRO, această metodă folosește o bază matematică solidă pentru a se asigura că modelele de inteligență artificială nu pot învăța din acel conținut sau, cu alte cuvinte, această tehnică face ca datele să fie „neînvățabile” pentru inteligența artificială într-o măsură care protejează confidențialitatea și drepturile de autor, păstrându-și în același timp utilitatea pentru oameni.

Această protecție rămâne în vigoare chiar dacă inteligența artificială încearcă să se adapteze sau este recalificată, a adăugat el.

Dr. Wang a spus că tehnica ar putea fi aplicată automat la scară largă. El a spus că o platformă de socializare sau un site web ar putea încorpora acest strat protector în toate imaginile încărcate. Acest lucru ar putea limita proliferarea deepfake-urilor, ar reduce furtul de proprietate intelectuală și ar ajuta utilizatorii să mențină controlul asupra conținutului lor.

Deși metoda este aplicabilă în prezent doar imaginilor, cercetătorii intenționează să o extindă la text, muzică și videoclipuri. Tehnologia este încă în stadiul teoretic și s-a demonstrat că funcționează eficient doar într-un mediu de laborator.

Lucrarea științifică menționată mai sus, intitulată „Exemple de date demonstrabil de neînvățabile”, a primit Premiul pentru Cercetare Remarcabilă la Simpozionul privind Securitatea Rețelelor și Sistemelor Distribuite (NDSS) din 2025./.

(TTXVN/Vietnam+)

Sursă: https://www.vietnamplus.vn/ky-thuat-moi-giup-ngan-chan-ai-hoc-hoi-tu-du-lieu-khong-duoc-phep-post1055216.vnp