Inteligența artificială este din ce în ce mai mult utilizată pentru a optimiza deciziile în contexte critice. De exemplu, un sistem autonom poate sugera cel mai rentabil plan de distribuție a energiei, menținând în același timp stabilitatea tensiunii.
Totuși, este o soluție „optimă din punct de vedere tehnic” cu adevărat justă? Ce se întâmplă dacă o strategie cu costuri reduse face zonele cu venituri mici mai vulnerabile la întreruperile de curent decât zonele mai bogate?
Pentru a ajuta părțile interesate să detecteze riscurile etice devreme înainte de implementare, echipa de cercetare MIT a dezvoltat o metodă automată de evaluare care echilibrează indicatorii cantitativi (cum ar fi costul și fiabilitatea) cu valorile calitative (cum ar fi corectitudinea).
Acest sistem separă evaluarea obiectivă de valorile umane definite de utilizator și folosește un model lingvistic larg (LLM) ca „reprezentant” uman pentru a înregistra și integra prioritățile părților interesate.
Cadrul de evaluare adaptivă va selecta cele mai importante scenarii pentru analize ulterioare, simplificând un proces care ar fi costisitor și consumator de timp dacă ar fi realizat manual. Aceste scenarii pot indica momentul în care un sistem de inteligență artificială se aliniază cu valorile umane, precum și momentul în care nu îndeplinește criteriile etice.
Potrivit lui Chuchu Fan (MIT), simpla stabilire a unor reguli sau „bariere de siguranță” pentru IA este insuficientă, deoarece acestea doar previn riscurile pe care oamenii le pot prevedea. Prin urmare, este necesară o abordare sistematică pentru a detecta „riscurile necunoscute” înainte ca acestea să provoace consecințe.
Evaluarea etică în sisteme complexe
În sistemele mari, precum rețelele electrice, evaluarea caracterului etic adecvat al propunerilor generate de inteligența artificială este o provocare, mai ales atunci când trebuie luate în considerare simultan mai multe obiective.
Metodele actuale se bazează adesea pe date ușor disponibile, însă datele etichetate conform criteriilor etice sunt rare. În același timp, valorile etice și sistemele de inteligență artificială sunt în continuă schimbare, ceea ce face ca metodele de evaluare statică să devină rapid învechite.
Echipa de cercetare a dezvoltat un cadru de design experimental numit SEED-SET, care constă din două părți:
- Model obiectiv: evaluează performanța pe baza unor indicatori măsurabili (cum ar fi costurile)
- Modelul subiectiv: reflectă judecata umană (cum ar fi sentimentele de corectitudine)
Această abordare permite identificarea scenariilor care îndeplinesc atât criteriile tehnice, cât și valorile umane sau invers.
În special, SEED-SET nu necesită date de evaluare preexistente și se poate adapta la o gamă largă de obiective. De exemplu, într-un sistem de energie electrică, diferite grupuri de utilizatori (cum ar fi comunitățile rurale și centrele de date) pot avea priorități etice diferite, în ciuda faptului că ambele își doresc energie electrică accesibilă și stabilă.
Modelarea factorilor subiectivi
Pentru a evalua factorii subiectivi, sistemul folosește LLM ca reprezentant al evaluatorului. Preferințele fiecărui grup sunt codificate în enunțuri în limbaj natural.
LLM va compara scenarii și va selecta opțiunea cea mai potrivită pe baza unor criterii etice. Această abordare ajută la evitarea oboselii umane și a inconsecvenței la evaluarea a sute sau mii de scenarii.
SEED-SET utilizează apoi scenariile selectate pentru a simula sistemul (de exemplu, strategia de distribuție a energiei) și continuă să caute noi scenarii cu o valoare de evaluare mai mare.
Rezultatul final este un set de scenarii tipice, permițând utilizatorilor să analizeze performanța sistemului de inteligență artificială și să își ajusteze strategia după cum este necesar.
De exemplu, sistemul ar putea detecta cazurile în care distribuția energiei electrice acordă prioritate zonelor cu venituri mari în timpul orelor de vârf, ceea ce face ca zonele defavorizate să fie mai vulnerabile la întreruperile de curent.
Eficacitate și dezvoltare viitoare
Când este testat pe sisteme din lumea reală, cum ar fi rețelele inteligente sau managementul traficului urban, SEED-SET generează de două ori mai multe scenarii optime decât metodele tradiționale, detectând în același timp mai multe situații pe care alte metode le ratează.
În mod special, atunci când preferințele utilizatorilor se schimbă, scenariile generate de sistem se schimbă și ele semnificativ, demonstrând un grad ridicat de adaptabilitate la valorile umane.
În viitor, echipa de cercetare intenționează să efectueze studii cu utilizatori reali pentru a evalua utilitatea sistemului în procesul decizional. Simultan, își propun să extindă metodologia la probleme mai complexe, cum ar fi evaluarea deciziilor modelelor lingvistice mai ample.
Această cercetare a fost parțial finanțată de Agenția pentru Proiecte de Cercetare Avansată în Apărare din SUA (DARPA).
(Conform MIT News)
Sursă: https://vietnamnet.vn/danh-gia-dao-duc-cua-cac-he-thong-tu-hanh-2508477.html
Comentariu (0)