Atenție la partea întunecată a inteligenței artificiale

În ciuda beneficiilor sale incontestabile, inteligența artificială (IA) ridică întrebări etice urgente. În special, în cercetarea științifică au existat numeroase statistici care arată că abuzul de IA poate duce la prejudecăți imprevizibile.

Atelier de lucru pentru a contribui cu idei pentru perfecționarea proiectului de lege privind inteligența artificială (IA). (Foto: HUONG NGUYEN)

Incidentele recente care au implicat prejudecăți și falsificarea documentelor i-au determinat pe cercetători să reconsidere nivelul adecvat de implicare a inteligenței artificiale în cercetare.

Recent, pe pagina sa personală, profesorul doctor în lingvistică Nguyen Van Hiep a împărtășit o poveste care i-a șocat pe cititori. El a descoperit că o inteligență artificială i-a falsificat documentele pe baza informațiilor trimise de un prieten. De asemenea, a descoperit accidental că articolul profesorului asociat doctor în științe Tran Van Co a fost, de asemenea, falsificat de inteligența artificială.

IA a devenit o parte indispensabilă a vieții umane, însă experții subliniază întotdeauna că ar trebui să o considerăm doar un instrument de sprijin. Utilizatorii de IA trebuie să fie întotdeauna atenți și informați pentru a procesa datele și a evalua rezultatele obținute după „cooperarea” cu IA. În special în cercetarea științifică, multe studii au arătat că cea mai mare problemă care trebuie vigilentă este părtinirea datelor și a modelelor. IA poate fi părtinitoare, poate distorsiona rezultatele analizelor, poate crea prejudecăți sau discriminare și poate manipula informațiile dacă nu este bine controlată.

În special, utilizarea IA în cercetarea științelor sociale necesită mult mai multă precauție. Deoarece domenii din științele sociale precum filosofia, lingvistica, etnologia, istoria etc. iau toate comportamentul, cultura și conduita umană ca obiecte de cercetare, datele sunt adesea strâns legate de contextul socio-cultural vietnamez, cu profunzime și specificitate. Dacă datele de instruire privind IA reflectă prejudecăți istorice, pericolul care se poate întâmpla este ca IA să poată trage concluzii care exacerbează problemele de inegalitate între gen, clasă, rasă sau regiune geografică. Riscul este și mai mare atunci când IA este utilizată pentru a analiza comportamentul uman, a răspunde la sondaje deschise sau a participa la conținut media.

Potrivit unor experți în științe sociale, inteligența artificială are în prezent dificultăți în accesarea surselor de date protejate prin drepturi de autor sau plătite, ceea ce duce la informații incomplet actualizate.

Fenomenul fabricării de documente pentru a crea povești plauzibile apare adesea în subiecte mai puțin populare, în limbi cu surse de date limitate, cum ar fi vietnameza, și ar trebui avertizat pentru a alerta utilizatorii. Sistemele de inteligență artificială, în general, sunt în prezent foarte limitate în înțelegerea contextului social și cultural, astfel încât asistența lor în interpretarea cunoștințelor ambigue, bogate în metafore, din științele sociale nu este cu adevărat fiabilă.

Deși aduce un mare potențial în cercetarea științifică, aplicarea inteligenței artificiale trebuie să fie foarte atentă, are limite și trebuie să meargă întotdeauna mână în mână cu capacitatea de gândire critică a cercetătorului.

Se poate observa că, deși aduce un mare potențial în cercetarea științifică, aplicarea IA trebuie să fie foarte prudentă, limitată și întotdeauna însoțită de capacitatea critică a cercetătorului. Subiectul care utilizează IA trebuie să identifice clar aceste limitări în utilizarea IA, asigurându-se că IA nu modifică valorile fundamentale ale științei. Pentru a proteja integritatea cercetării științifice, rolul și responsabilitatea oamenilor de știință trebuie ridicate la un nou nivel. În plus, este necesar să se propună un cadru etic al IA obligatoriu din punct de vedere juridic, în contextul culturii, tradițiilor și normelor sociale vietnameze.

Avem un sistem de nouă principii pentru a promova cercetarea și dezvoltarea unor sisteme de inteligență artificială sigure și responsabile, pentru a limita impactul negativ și a controla riscurile, propus de Ministerul Științei și Tehnologiei , care pune accent pe securitatea datelor, precum și pe respectarea drepturilor și demnității omului, precum și pe responsabilitatea utilizatorilor de inteligență artificială. În special în cercetarea științifică, Consiliul Profesorilor de Stat a emis, de asemenea, în 2023, Mesajul Oficial nr. 25/HDGSNN, solicitând consiliilor de titluri de profesori din industrie și facilităților pentru evaluarea calității lucrărilor științifice să acorde o atenție deosebită detectării și evaluării lucrărilor care utilizează sau sunt asistate de tehnologia inteligenței artificiale. Aceste cerințe vizează asigurarea faptului că rezultatele cercetărilor care utilizează inteligența artificială îndeplinesc în continuare standardele științifice, prevenind abuzul de inteligență artificială în cercetarea și publicațiile științifice.

În viitor, odată cu emiterea Legii privind Inteligența Artificială, cu reglementări stricte legate de etică și responsabilitate în utilizarea IA, aceasta va contribui la crearea unui mediu sănătos pentru dezvoltarea IA, oferind un sprijin mai activ și responsabil oamenilor de știință în activitatea de cercetare.

Festivalul de Dans

Sursă: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html