Fotografia 8_Audrey Lorvo.jpg
Audrey Lorvo este studentă în ultimul an la Informatică, Economie și Știința Datelor și bursieră în cadrul programului Responsabilitate Socială și Etică în Informatică (SERC). Fotografie: MIT

Cercetarea în domeniul siguranței inteligenței artificiale - un domeniu important

Audrey Lorvo cercetează în prezent siguranța inteligenței artificiale (IA), un domeniu care își propune să asigure că modelele de inteligență artificială din ce în ce mai inteligente rămân fiabile și benefice umanității. Domeniul se concentrează pe provocări tehnice precum toleranța la erori și alinierea IA la valorile umane, abordând în același timp probleme sociale precum transparența și responsabilitatea. Experții sunt, de asemenea, îngrijorați de riscurile existențiale ale IA din ce în ce mai puternică.

„Asigurarea că IA nu este utilizată în mod abuziv sau nu funcționează contrar intenției umane este din ce în ce mai importantă, mai ales pe măsură ce ne apropiem de inteligența artificială generală (AGI)”, a declarat Lorvo.

Bursieră în cadrul programului Socially and Ethically Responsible Computing (SERC) de la Schwarzman Institute for Computing din cadrul MIT, Lorvo este interesată de modul în care inteligența artificială poate automatiza procesele de cercetare și dezvoltare în domeniul inteligenței artificiale. „Trebuie să facem tot posibilul pentru a dezvolta inteligența artificială în siguranță”, a subliniat ea, atrăgând atenția asupra cadrelor și strategiilor de guvernanță adecvate pentru a aborda riscurile.

Lorvo se angajează să înțeleagă aspectele tehnice ale siguranței inteligenței artificiale prin inițiative precum AI Safety Engineering Fellowship, care o ajută să cerceteze modalități de a ghida dezvoltarea inteligenței artificiale în moduri care să aducă beneficii umanității.

„Programul m-a ajutat să înțeleg mai profund problemele tehnice și provocările legate de siguranța inteligenței artificiale, propunând astfel strategii mai eficiente de guvernanță a inteligenței artificiale”, a declarat ea.

Potrivit lui Lorvo, pionierii inteligenței artificiale împing frontierele tehnologice, necesitând implementarea eficientă a unor politici care să prioritizeze siguranța umană fără a împiedica cercetarea.

Valoarea unei abordări multidisciplinare

Din momentul în care a intrat la MIT, Lorvo a dorit să combine știința cu științele umaniste. Cu toate acestea, diversitatea domeniilor de formare i-a făcut dificilă alegerea unei anumite specializări.

„Există multe modalități de a îmbunătăți calitatea vieții, iar MIT oferă nenumărate căi de explorare a acestora. Cursurile de econometrie ale profesorului Joshua Angrist m-au ajutat să înțeleg valoarea cercetării economice, în timp ce știința datelor și informatica m-au captivat datorită potențialului tot mai mare al inteligenței artificiale. Putem folosi aceste instrumente pentru a rezolva cele mai presante probleme și a depăși provocări serioase”, a spus Lorvo.

Lorvo și-a extins cercetările și în domeniul planificării urbane și al dezvoltării internaționale. Pe măsură ce a aprofundat domeniul său, și-a dat seama că mulți studenți de la MIT, în special grupul MIT AI Alignment, împărtășeau opiniile ei despre tehnologia responsabilă.

Conceptul de „impact marginal” descrie impactul suplimentar al unei investiții de timp, bani sau efort într-un anumit domeniu. Potrivit lui Lorvo, această abordare îi ajută pe indivizi să decidă cum să își investească resursele mai eficient.

Într-o lume cu resurse limitate, susține Lorvo, o abordare bazată pe date poate ajuta la alocarea resurselor către domeniile care sunt susceptibile de a genera cel mai mare beneficiu. Dacă vrem să maximizăm impactul social, este important să ne gândim la impactul marginal al alegerilor de carieră.

Experiența studențească la MIT

Pe lângă activitățile academice, Lorvo participă activ la activități extracurriculare pentru a construi experiențe semnificative și a se conecta cu colegii studenți.

„Sunt norocos că pot să-mi echilibrez studiile, cercetarea, activitățile de club și interesele personale, cum ar fi antrenamentul cu greutăți sau participarea la inițiative extracurriculare. MIT are întotdeauna o mulțime de cluburi și evenimente interesante de explorat”, a spus Lorvo.

Aceste oportunități nu numai că i-au lărgit orizonturile, dar au ajutat-o ​​și să-și perfecționeze cariera. Lorvo, care vorbește fluent franceza, engleza, spaniola și portugheza, a apreciat, de asemenea, programele de experiență internațională ale MIT.

Lorvo, care a efectuat stagii de practică la Santiago de Chile și Paris prin programul MISTI, a participat și la testarea unui sistem de condensare a aburului proiectat de echipa sa în cadrul promoției D-Lab din 2023, în parteneriat cu Școala Politehnică din Madagascar și ONG-ul Tatirano. Aceste experiențe au ajutat-o ​​să înțeleagă cum să combată inegalitatea economică.

După absolvire, Lorvo a declarat că dorește să continue cercetările privind siguranța și strategiile de guvernanță în domeniul inteligenței artificiale pentru a se asigura că inteligența artificială este implementată în siguranță și eficient.

„Buna guvernare este esențială pentru dezvoltarea cu succes a inteligenței artificiale și pentru a ajuta umanitatea să profite de potențialul său transformator. Trebuie să monitorizăm continuu dezvoltarea inteligenței artificiale pe măsură ce tehnologia continuă să evolueze”, a afirmat Lorvo.

(Conform MIT News)