Foto 8_Audrey Lorvo.jpg
Audrey Lorvo is een senior die computerwetenschappen, economie en datawetenschappen studeert en een SERC-onderzoeker (Social Responsibility and Ethics in Computing). Foto: MIT

AI-veiligheidsonderzoek - een belangrijk vakgebied

Audrey Lorvo doet momenteel onderzoek naar de veiligheid van AI, een vakgebied dat ervoor wil zorgen dat steeds intelligentere modellen voor kunstmatige intelligentie betrouwbaar en nuttig blijven voor de mensheid. Het vakgebied richt zich op technische uitdagingen zoals fouttolerantie en het afstemmen van AI op menselijke waarden, maar ook op maatschappelijke kwesties zoals transparantie en verantwoording. Deskundigen maken zich ook zorgen over de existentiële risico's van steeds krachtigere AI.

"Het wordt steeds belangrijker om ervoor te zorgen dat AI niet wordt misbruikt of in strijd is met de menselijke bedoelingen, vooral naarmate we dichter bij kunstmatige algemene intelligentie (AGI) komen", aldus Lorvo.

Lorvo, een onderzoeker in het Socially and Ethically Responsible Computing (SERC)-programma aan het Schwarzman Institute for Computing van MIT, is geïnteresseerd in hoe AI AI-onderzoeks- en ontwikkelingsprocessen kan automatiseren. "We moeten er alles aan doen om AI veilig te ontwikkelen", benadrukte ze, en ze vroeg aandacht voor passende governancekaders en strategieën om risico's aan te pakken.

Lorvo wil de technische aspecten van AI-veiligheid beter begrijpen via initiatieven zoals de AI Safety Engineering Fellowship. Deze helpt haar bij haar onderzoek naar manieren om AI-ontwikkeling op een manier te sturen die de mensheid ten goede komt.

"Dankzij het programma heb ik een beter begrip gekregen van de technische problemen en uitdagingen rondom AI-veiligheid, waardoor ik effectievere AI-governancestrategieën heb kunnen voorstellen", vertelde ze.

Volgens Lorvo verleggen AI-pioniers de technologische grenzen en is er behoefte aan effectieve beleidsimplementatie om de menselijke veiligheid voorop te stellen zonder het onderzoek te belemmeren.

De waarde van een multidisciplinaire aanpak

Vanaf het moment dat ze aan MIT begon, wilde Lorvo wetenschap en geesteswetenschappen combineren. De diversiteit aan studierichtingen maakte het echter lastig voor haar om een ​​specifieke studierichting te kiezen.

"Er zijn veel manieren om de kwaliteit van leven te verbeteren, en MIT biedt talloze mogelijkheden om die te verkennen . De econometrielessen van professor Joshua Angrist hebben me de waarde van economisch onderzoek laten inzien, terwijl datawetenschap en informatica me fascineerden vanwege het groeiende potentieel van AI. We kunnen deze tools gebruiken om onze meest urgente problemen op te lossen en serieuze uitdagingen te overwinnen", aldus Lorvo.

Lorvo breidde haar onderzoek ook uit naar stedenbouw en internationale ontwikkeling. Naarmate ze zich verder verdiepte in haar vakgebied, realiseerde ze zich dat veel MIT-studenten, met name de MIT AI Alignment-groep, haar visie op verantwoorde technologie deelden.

Het concept 'marginale impact' beschrijft de extra impact van een investering van tijd, geld of moeite op een bepaald gebied. Volgens Lorvo helpt deze aanpak individuen te beslissen hoe ze hun middelen effectiever kunnen investeren.

In een wereld met beperkte middelen, betoogt Lorvo, kan een datagestuurde aanpak helpen om middelen toe te wijzen aan gebieden die waarschijnlijk het meeste voordeel opleveren. Willen we de maatschappelijke impact maximaliseren, dan is het belangrijk om na te denken over de marginale impact van carrièrekeuzes.

Studentenervaring bij MIT

Naast haar academische activiteiten neemt Lorvo actief deel aan buitenschoolse activiteiten om betekenisvolle ervaringen op te doen en contact te leggen met medestudenten.

"Ik heb het geluk dat ik mijn studie, onderzoek, clubactiviteiten en persoonlijke interesses zoals krachttraining of deelname aan buitenschoolse activiteiten kan combineren. MIT heeft altijd veel interessante clubs en evenementen om te ontdekken", aldus Lorvo.

Deze kansen verbreedden niet alleen haar horizon, maar hielpen haar ook haar carrièrepad te verfijnen. Lorvo, die vloeiend Frans, Engels, Spaans en Portugees spreekt, was ook zeer te spreken over de internationale ervaringsprogramma's van MIT.

Lorvo, die stage liep in Santiago de Chile en Parijs via het MISTI-programma, nam ook deel aan het testen van een stoomcondensatiesysteem dat door haar team was ontworpen als onderdeel van de D-Lab-klas van 2023, in samenwerking met de Polytechnische School van Madagaskar en de ngo Tatirano. Deze ervaringen hielpen haar te begrijpen hoe ze economische ongelijkheid kon aanpakken.

Na zijn afstuderen wil Lorvo verder onderzoek doen naar AI-veiligheids- en bestuursstrategieën om ervoor te zorgen dat AI veilig en effectief wordt ingezet.

"Goed bestuur is essentieel voor de succesvolle ontwikkeling van AI en om de mensheid te helpen het transformatieve potentieel ervan te benutten. We moeten de ontwikkeling van AI continu volgen, aangezien de technologie zich blijft ontwikkelen", aldus Lorvo.

(Volgens MIT News)