Foto 8_Audrey Lorvo.jpg
Audrey Lorvo er sisteårsstudent i informatikk, økonomi og datavitenskap, og er stipendiat i samfunnsansvar og etikk i informatikk (SERC). Foto: MIT

AI-sikkerhetsforskning – et viktig felt

Audrey Lorvo forsker for tiden på sikkerhet innen kunstig intelligens, et felt som har som mål å sikre at stadig mer intelligente modeller av kunstig intelligens forblir pålitelige og nyttige for menneskeheten. Feltet fokuserer på tekniske utfordringer som feiltoleranse og å tilpasse kunstig intelligens til menneskelige verdier, samtidig som det tar for seg sosiale spørsmål som åpenhet og ansvarlighet. Eksperter er også bekymret for de eksistensielle risikoene ved stadig kraftigere kunstig intelligens.

«Det blir stadig viktigere å sørge for at AI ikke misbrukes eller fungerer i strid med menneskelig hensikt, spesielt etter hvert som vi beveger oss nærmere kunstig generell intelligens (AGI),» delte Lorvo.

Lorvo, som er forsker ved programmet Socially and Ethically Responsible Computing (SERC) ved MITs Schwarzman Institute for Computing, er interessert i hvordan AI kan automatisere forsknings- og utviklingsprosesser innen AI. «Vi må gjøre alt vi kan for å utvikle AI på en trygg måte», understreket hun, og rettet oppmerksomheten mot passende styringsrammeverk og strategier for å håndtere risikoer.

Lorvo er forpliktet til å forstå de tekniske aspektene ved AI-sikkerhet gjennom initiativer som AI Safety Engineering Fellowship, som hjelper henne med å undersøke måter å veilede AI-utvikling på måter som gagner menneskeheten.

«Programmet hjalp meg med å få en dypere forståelse av de tekniske problemene og utfordringene knyttet til AI-sikkerhet, og dermed foreslå mer effektive strategier for AI-styring», delte hun.

Ifølge Lorvo flytter AI-pionerer den teknologiske grensen, noe som krever effektiv implementering av retningslinjer for å prioritere menneskers sikkerhet uten å hindre forskning.

Verdien av en tverrfaglig tilnærming

Fra det øyeblikket hun begynte på MIT, ønsket Lorvo å kombinere naturvitenskap og humaniora. Mangfoldet av utdanningsfelt gjorde det imidlertid vanskelig for henne å velge et bestemt hovedfag.

«Det finnes mange måter å forbedre livskvaliteten på, og MIT tilbyr utallige muligheter til å utforske dem. Professor Joshua Angrists økonometriklasser hjalp meg med å se verdien av økonomisk forskning, mens datavitenskap og databehandling fengslet meg på grunn av det voksende potensialet til AI. Vi kan bruke disse verktøyene til å løse våre mest presserende problemer og overvinne alvorlige utfordringer», sa Lorvo.

Lorvo utvidet også forskningen sin til byplanlegging og internasjonal utvikling. Etter hvert som hun fordypet seg i feltet sitt, innså hun at mange MIT-studenter, spesielt MIT AI Alignment-gruppen, delte hennes synspunkter på ansvarlig teknologi.

Konseptet «marginal innvirkning» beskriver den ekstra innvirkningen av en investering av tid, penger eller innsats i et gitt område. Ifølge Lorvo hjelper denne tilnærmingen enkeltpersoner med å bestemme hvordan de skal investere ressursene sine mer effektivt.

I en verden med begrensede ressurser, argumenterer Lorvo, kan en datadrevet tilnærming bidra til å allokere ressurser til områder som sannsynligvis vil generere størst nytte. Hvis vi ønsker å maksimere sosial effekt, er det viktig å tenke på den marginale effekten av karrierevalg.

Studentopplevelse ved MIT

I tillegg til det akademiske, deltar Lorvo aktivt i fritidsaktiviteter for å bygge meningsfulle opplevelser og få kontakt med medelever.

«Jeg er heldig som kan balansere studier, forskning, klubbaktiviteter og personlige interesser som styrketrening eller deltakelse i fritidsaktiviteter. MIT har alltid mange interessante klubber og arrangementer å utforske», sa Lorvo.

Disse mulighetene utvidet ikke bare horisonten hennes, men hjalp henne også med å finjustere karriereveien. Lorvo, som snakker flytende fransk, engelsk, spansk og portugisisk, satte også pris på MITs internasjonale erfaringsprogrammer.

Lorvo, som hadde praksis i Santiago de Chile og Paris gjennom MISTI-programmet, deltok også i testing av et dampkondensasjonssystem designet av teamet hennes som en del av D-Lab-klassen i 2023, i samarbeid med Polytechnic School of Madagascar og NGO-en Tatirano. Disse erfaringene hjalp henne å forstå hvordan man kan takle økonomisk ulikhet.

Etter endt utdanning sa Lorvo at han ønsker å fortsette å forske på strategier for sikkerhet og styring av AI for å sikre at AI tas i bruk på en trygg og effektiv måte.

«God styring er nøkkelen til en vellykket utvikling av AI og til å hjelpe menneskeheten med å dra nytte av dens transformative potensial. Vi må kontinuerlig overvåke utviklingen av AI etter hvert som teknologien fortsetter å utvikle seg», hevdet Lorvo.

(Ifølge MIT News)