Foto 8_Audrey Lorvo.jpg
Audrey Lorvo är en sistaårsstudent i datavetenskap, ekonomi och datavetenskap och en SERC-stipendiat (Social Responsibility and Ethics in Computing). Foto: MIT

AI-säkerhetsforskning – ett viktigt område

Audrey Lorvo forskar för närvarande om AI-säkerhet, ett område som syftar till att säkerställa att alltmer intelligenta modeller för artificiell intelligens förblir tillförlitliga och fördelaktiga för mänskligheten. Området fokuserar på tekniska utmaningar som feltolerans och att anpassa AI till mänskliga värderingar, samtidigt som det tar upp sociala frågor som transparens och ansvarsskyldighet. Experter är också oroade över de existentiella riskerna med alltmer kraftfull AI.

”Att säkerställa att AI inte missbrukas eller fungerar i strid med mänskliga avsikter blir allt viktigare, särskilt när vi närmar oss artificiell generell intelligens (AGI)”, delade Lorvo.

Lorvo, som är forskare i programmet Socially and Ethically Responsible Computing (SERC) vid MIT:s Schwarzman Institute for Computing, är intresserad av hur AI kan automatisera AI-forsknings- och utvecklingsprocesser. "Vi måste göra allt vi kan för att utveckla AI på ett säkert sätt", betonade hon och riktade uppmärksamheten mot lämpliga styrningsramverk och strategier för att hantera risker.

Lorvo är engagerad i att förstå de tekniska aspekterna av AI-säkerhet genom initiativ som AI Safety Engineering Fellowship, vilket hjälper henne att undersöka sätt att vägleda AI-utveckling på sätt som gynnar mänskligheten.

"Programmet hjälpte mig att få en djupare förståelse för de tekniska problemen och utmaningarna med AI-säkerhet, och därigenom föreslå mer effektiva AI-styrningsstrategier", delade hon.

Enligt Lorvo tänjer AI-pionjärer på den tekniska gränsen, vilket kräver ett effektivt genomförande av policyer för att prioritera människors säkerhet utan att hindra forskning.

Värdet av ett tvärvetenskapligt tillvägagångssätt

Ända från det ögonblick hon började på MIT ville Lorvo kombinera naturvetenskap och humaniora. Men mångfalden av utbildningsområden gjorde det svårt för henne att välja ett specifikt huvudämne.

”Det finns många sätt att förbättra livskvaliteten, och MIT erbjuder otaliga möjligheter att utforska dem. Professor Joshua Angrists ekonometrikurser hjälpte mig att se värdet av ekonomisk forskning, medan datavetenskap och databehandling fängslade mig på grund av AI:s växande potential. Vi kan använda dessa verktyg för att lösa våra mest angelägna problem och övervinna allvarliga utmaningar”, sa Lorvo.

Lorvo utökade även sin forskning till stadsplanering och internationell utveckling. När hon fördjupade sig i sitt område insåg hon att många MIT-studenter, särskilt MIT AI Alignment-gruppen, delade hennes åsikter om ansvarsfull teknologi.

Begreppet "marginell påverkan" beskriver den ytterligare effekten av en investering av tid, pengar eller ansträngning inom ett givet område. Enligt Lorvo hjälper detta tillvägagångssätt individer att bestämma hur de ska investera sina resurser mer effektivt.

I en värld med begränsade resurser, menar Lorvo, kan en datadriven metod hjälpa till att allokera resurser till områden som sannolikt genererar störst nytta. Om vi ​​vill maximera den sociala effekten är det viktigt att tänka på den marginella effekten av karriärval.

Studentupplevelse på MIT

Förutom studierna deltar Lorvo aktivt i fritidsaktiviteter för att skapa meningsfulla upplevelser och få kontakt med andra studenter.

"Jag har turen att kunna balansera mina studier, forskning, klubbaktiviteter och personliga intressen som styrketräning eller att delta i fritidsaktiviteter. MIT har alltid många intressanta klubbar och evenemang att utforska", sa Lorvo.

Dessa möjligheter vidgade inte bara hennes vyer utan hjälpte henne också att finjustera sin karriärväg. Lorvo, som talar flytande franska, engelska, spanska och portugisiska, uppskattade också MIT:s internationella erfarenhetsprogram.

Lorvo, som praktiserade i Santiago de Chile och Paris genom MISTI-programmet, deltog också i testning av ett ångkondenseringssystem som designats av hennes team som en del av D-Lab-klassen 2023, i samarbete med Polytechnic School of Madagascar och den icke-statliga organisationen Tatirano. Dessa erfarenheter hjälpte henne att förstå hur man kan hantera ekonomisk ojämlikhet.

Efter examen sa Lorvo att han vill fortsätta att forska om AI-säkerhet och styrningsstrategier för att säkerställa att AI används säkert och effektivt.

”God samhällsstyrning är nyckeln till en framgångsrik utveckling av AI och till att hjälpa mänskligheten att dra nytta av dess transformativa potential. Vi måste kontinuerligt övervaka utvecklingen av AI i takt med att tekniken fortsätter att utvecklas”, hävdade Lorvo.

(Enligt MIT News)