Inteligența artificială: Trebuie să creștem siguranța în loc să ne concentrăm doar pe dezvoltarea unor instrumente mai puternice

În loc să se concentreze doar pe dezvoltarea inteligenței artificiale pentru a deveni mai puternică, experții mondiali influenți în domeniul inteligenței artificiale avertizează că oamenii trebuie să se gândească urgent la cum să trăiască cu IA - o entitate mai inteligentă decât ei înșiși, care o împiedică să preia controlul de la oameni.

Panelul de discuții „IA pentru umanitate: etica și siguranța IA în noua eră”, desfășurat în cadrul Săptămânii Științei și Tehnologiei VinFuture 2025, reunește oameni de știință , politicieni și inventatori pentru a discuta despre dezvoltarea responsabilă a IA, în direcția valorilor umaniste.

Gândește-te urgent cum să trăiești cu IA - o entitate mai inteligentă decât tine

În cadrul seminarului, profesorul Toby Walsh, de la Universitatea din New South Wales, Australia, academician al Asociației Americane de Calculatoare, a afirmat: „Cred cu tărie că utilizarea responsabilă a inteligenței artificiale ar trebui să fie obligatorie. Există multe stimulente perverse astăzi, existând sume uriașe de bani câștigate datorită inteligenței artificiale, iar singura modalitate de a asigura un comportament adecvat este aplicarea unor reglementări stricte, astfel încât interesele publice să fie întotdeauna echilibrate cu interesele comerciale.”

El a citat un exemplu tipic de decizii importante, cum ar fi pronunțarea sentințelor și condamnarea în Statele Unite, unde un sistem de inteligență artificială a fost utilizat pentru a face recomandări privind pedeapsa cu închisoarea unei persoane și probabilitatea de recidivă. Din păcate, acest sistem a fost antrenat pe baza datelor istorice și a reflectat, în mod neintenționat, prejudecățile rasiale din trecut, ceea ce a dus la discriminarea persoanelor de culoare.

Profesorul Toby Walsh, Universitatea din New South Wales, Australia, membru al Societății Americane de Calculatoare.

Prin urmare, companiile care implementează și operează sisteme de inteligență artificială trebuie să fie responsabile pentru consecințele pe care le provoacă aceste „mașini”.

Profesorul Geoffrey Hinton - câștigător al premiului principal VF 2024, este îngrijorat de faptul că inteligența artificială devine treptat mai eficientă în conceperea de viruși periculoși, atacuri cibernetice, crearea de videoclipuri false pentru a perturba alegerile. În următorii 20 de ani, inteligența artificială va deveni mai inteligentă decât noi și nu vom ști cum să o împiedicăm să preia controlul de la oameni.

Prin urmare, acest profesor a subliniat: „Trebuie să ne gândim urgent la cum să trăim cu entități mai inteligente decât noi. Aceasta este o situație cu care omenirea nu s-a mai confruntat niciodată, este nouă și trebuie să depunem multe eforturi de cercetare înainte ca acest lucru să se întâmple.”

Necesitatea consolidării cooperării internaționale pentru a limita riscurile legate de inteligența artificială

Împărtășind această îngrijorare, profesorul Yoshua Bengio - câștigător al premiului principal VinFuture 2024 - a declarat că modelele de inteligență artificială, capacitățile și nivelurile lor de autonomie se dezvoltă încă într-un ritm rapid și constant. Dacă această tendință continuă, sistemele autonome de inteligență artificială ar putea depăși performanțele umane în majoritatea sarcinilor cognitive, în doar 5-10 ani.

Acesta ar fi un punct de cotitură istoric care ar putea îmbunătăți dramatic calitatea vieții noastre. Dar, dacă nu este gestionat cu prudență, ar putea reprezenta, de asemenea, riscuri uriașe pentru democrație, stabilitatea geopolitică și chiar viitorul umanității.

„Trebuie să sporim siguranța inteligenței artificiale avansate, în loc să ne concentrăm doar pe consolidarea acesteia. Siguranța și încrederea nu sunt factori secundari, ci esențiali în procesul de dezvoltare în beneficiul umanității. Trebuie să acționăm împreună atât la nivel politic, cât și la nivel științific”, a spus el.

Profesorul Yoshua Bengio - Câștigătorul premiului principal VinFuture 2024.

Acest om de știință recomandă ca, din punct de vedere politic, lumea să aibă nevoie de cooperare internațională. Din punct de vedere științific, este necesar să înțelegem mai bine cum să proiectăm o IA care să fie atât superioară ca abilitate, cât și inofensivă pentru oameni, să menținem capacitatea de a controla IA astfel încât să se comporte în siguranță chiar și atunci când oamenii îi cer să acționeze greșit și să construim bariere tehnice și sociale pentru a ne asigura că IA este în concordanță cu normele, intențiile, valorile și interesele umane.

Dr. Vinton Grey Cert (vicepreședinte și director al departamentului de evanghelizare pe internet la Google - câștigător al Marelui Premiu VF 2022) este de acord: Trebuie să tragem la răspundere inteligența artificială, să stabilim un lanț de custodie pentru a ști ce fac, când, mai ales când ceva nu merge bine. Multe dintre principiile care se aplică oamenilor se vor aplica și agenților inteligenței artificiale din mediul online.

„Trebuie să stabilim simultan noi norme, în care utilizarea identificării puternice, criptografia pentru securizarea informațiilor, aplicarea unor mecanisme care să asigure responsabilitatea și protejarea identităților de a fi deturnate de alții – să devină un obicei obișnuit. Ar trebui să folosim tehnologia pentru a limita riscurile de la început și să fim clari că oricine este considerat dăunător comunității și societății trebuie să se confrunte cu consecințele acestui comportament. Acest lucru necesită cooperare internațională”, a spus el.

Vietnamul trebuie să aibă propria cale în construirea de date bazate pe inteligență artificială.

Profesorul asociat Luu Anh Tuan, Universitatea Tehnologică Nanyang (Singapore), Universitatea VinUni (Vietnam), a declarat că alte țări au seturi de date de aproximativ 10 ani, dar Vietnamul pornește de la zero. Prin urmare, putem construi date sustenabile de la început, oferind date curate, etice și adecvate din punct de vedere cultural chiar de la început.

Totuși, cea mai mare provocare pentru Vietnam este specificitatea limbii vietnameze. Avem un sistem dialectal divers, o cultură regională bogată și forme de adresare extrem de complexe. Modele mari, cum ar fi ChatGPT sau Gemini, acceptă limba vietnameză, dar calitatea nu este profundă, deoarece nu înțeleg dialectul, obiceiurile sau istoria vietnameză.

Vietnamul trebuie să-și construiască propriul model vietnamez. În plus, ar trebui să dezvoltăm un model open-source, astfel încât întreprinderile mici să îl poată utiliza și contribui. „Dacă ne bazăm doar pe modele străine sub formă de «cutii negre», vom fi doar utilizatori de inteligență artificială și nu dezvoltatori de inteligență artificială”, a spus el.

În prezent, profesorul asociat Luu Anh Tuan și colegii săi construiesc date despre inteligența artificială vietnameză. Factori precum dialectul, istoria și cultura trebuie luați în considerare.

El a mai spus că în țările străine, studenții sunt educați despre inteligența artificială foarte devreme. Vietnamul abia începe acest proces, dar putem accelera procesul învățând și ajustându-ne în consecință.

„Tinerii vietnamezi sunt foarte dinamici; trebuie doar să fie pe deplin educați cu privire la responsabilitatea digitală. Ar trebui să avem un organism unificat pentru a confirma și standardiza calitatea datelor și standardele etice. VinUni participă, de asemenea, la consiliu pentru a construi un sistem de standarde etice și va continua să contribuie la acest proces”, a spus el.

Profesor asociat Luu Anh Tuan, Universitatea Tehnologică Nanyang (Singapore), Universitatea VinUni (Vietnam).

Ca răspuns la strategia de investiții străine directe (ISD) care vizează ca Vietnamul să fie lider în regiune în domeniul inteligenței artificiale până în 2030, profesorul asociat Tuan consideră că Vietnamul are resurse umane de înaltă calitate - demonstrate prin realizări internaționale în matematică, fizică și chimie. Dacă știm cum să ne unim forțele și să avem politici puternice, obiectivul pentru 2030 poate fi atins pe deplin.

Profesorul Toby Walsh recomandă ca Vietnamul să investească în oameni și să îmbunătățească proactiv competențele oamenilor, să se asigure că aceștia înțeleg inteligența artificială; să sprijine antreprenorii, afacerile din domeniul inteligenței artificiale și universitățile. În loc să așteptăm ca alte țări să transfere tehnologie sau să ne îndrume, trebuie să fim proactivi și să stăpânim tehnologia.

În plus, Vietnamul trebuie să mobilizeze puternic platformele de socializare pentru a crea un mediu sigur pentru utilizatorii interni, fără a afecta democrația țării.

THAO LE-THIEN LAM

Sursă: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html