Foto 8_Audrey Lorvo.jpg
Audrey Lorvo studiert Informatik, Wirtschaftswissenschaften und Datenwissenschaft im Hauptfach und ist Stipendiatin für soziale Verantwortung und Ethik in der Informatik (SERC). Foto: MIT

KI-Sicherheitsforschung – ein wichtiges Feld

Audrey Lorvo forscht derzeit zur Sicherheit von KI. Ziel ist es, sicherzustellen, dass immer intelligentere KI-Modelle vertrauenswürdig und für die Menschheit nützlich bleiben. Der Schwerpunkt liegt dabei auf technischen Herausforderungen wie Fehlertoleranz und der Ausrichtung von KI an menschlichen Werten. Gleichzeitig werden soziale Fragen wie Transparenz und Rechenschaftspflicht behandelt. Experten sind zudem besorgt über die existenziellen Risiken einer immer leistungsfähigeren KI.

„Es wird immer wichtiger, sicherzustellen, dass KI nicht missbraucht wird oder entgegen den menschlichen Absichten funktioniert, insbesondere da wir uns der künstlichen allgemeinen Intelligenz (AGI) nähern“, teilte Lorvo mit.

Als Wissenschaftlerin im Programm „Sozial und ethisch verantwortliches Computing“ (SERC) am Schwarzman Institute for Computing des MIT interessiert sich Lorvo dafür, wie KI Forschungs- und Entwicklungsprozesse automatisieren kann. „Wir müssen alles tun, um KI sicher zu entwickeln“, betont sie und weist auf geeignete Governance-Rahmen und Strategien zur Risikobewältigung hin.

Lorvo engagiert sich für das Verständnis der technischen Aspekte der KI-Sicherheit durch Initiativen wie das AI Safety Engineering Fellowship, das ihr dabei hilft, Wege zu erforschen, die KI-Entwicklung so zu lenken, dass die Menschheit davon profitiert.

„Das Programm hat mir geholfen, ein tieferes Verständnis für die technischen Probleme und Herausforderungen der KI-Sicherheit zu erlangen und dadurch effektivere KI-Governance-Strategien vorzuschlagen“, erzählte sie.

Laut Lorvo verschieben KI-Pioniere die technologischen Grenzen und erfordern eine wirksame Umsetzung politischer Maßnahmen, um die Sicherheit der Menschen zu priorisieren, ohne die Forschung zu behindern.

Der Wert eines multidisziplinären Ansatzes

Von Beginn ihres Studiums am MIT an wollte Lorvo Natur- und Geisteswissenschaften miteinander verbinden. Die Vielfalt der Ausbildungsbereiche erschwerte ihr jedoch die Wahl eines bestimmten Hauptfachs.

„Es gibt viele Möglichkeiten, die Lebensqualität zu verbessern, und das MIT bietet unzählige Möglichkeiten, diese zu erkunden . Professor Joshua Angrists Ökonometrie-Kurse haben mir den Wert der Wirtschaftsforschung vor Augen geführt, während mich Data Science und Informatik aufgrund des wachsenden Potenzials der KI fasziniert haben. Wir können diese Werkzeuge nutzen, um unsere dringendsten Probleme zu lösen und große Herausforderungen zu meistern“, sagte Lorvo.

Lorvo erweiterte ihre Forschung auch auf Stadtplanung und internationale Entwicklung. Als sie sich tiefer in ihr Fachgebiet vertiefte, stellte sie fest, dass viele MIT-Studenten, insbesondere die MIT AI Alignment-Gruppe, ihre Ansichten zu verantwortungsvoller Technologie teilten.

Das Konzept der „marginalen Wirkung“ beschreibt die zusätzliche Wirkung einer Investition von Zeit, Geld oder Aufwand in einem bestimmten Bereich. Laut Lorvo hilft dieser Ansatz Einzelpersonen bei der Entscheidung, wie sie ihre Ressourcen effektiver einsetzen können.

In einer Welt begrenzter Ressourcen, argumentiert Lorvo, könne ein datenbasierter Ansatz helfen, Ressourcen in Bereichen zu verteilen, die voraussichtlich den größten Nutzen bringen. Um die soziale Wirkung zu maximieren, sei es wichtig, über die marginalen Auswirkungen der Berufswahl nachzudenken.

Studentenerfahrung am MIT

Neben dem Studium nimmt Lorvo aktiv an außerschulischen Aktivitäten teil, um sinnvolle Erfahrungen zu sammeln und Kontakte zu Kommilitonen zu knüpfen.

„Ich habe das Glück, mein Studium, meine Forschung, meine Clubaktivitäten und meine persönlichen Interessen wie Krafttraining oder die Teilnahme an außerschulischen Initiativen unter einen Hut bringen zu können. Am MIT gibt es immer viele interessante Clubs und Veranstaltungen zu entdecken“, sagte Lorvo.

Diese Möglichkeiten erweiterten nicht nur ihren Horizont, sondern halfen ihr auch, ihren Karriereweg zu verfeinern. Lorvo, die fließend Französisch, Englisch, Spanisch und Portugiesisch spricht, schätzte auch die internationalen Erfahrungsprogramme des MIT.

Lorvo, die im Rahmen des MISTI-Programms Praktika in Santiago de Chile und Paris absolvierte, nahm auch an der Erprobung eines Dampfkondensationssystems teil, das ihr Team im Rahmen des D-Lab-Jahrgangs 2023 in Zusammenarbeit mit der Polytechnischen Schule Madagaskar und der NGO Tatirano entwickelt hatte. Diese Erfahrungen halfen ihr zu verstehen, wie man wirtschaftliche Ungleichheit bekämpfen kann.

Nach seinem Abschluss möchte Lorvo seine Forschung zu KI-Sicherheits- und Governance-Strategien fortsetzen, um sicherzustellen, dass KI sicher und effektiv eingesetzt wird.

„Eine gute Regierungsführung ist der Schlüssel zur erfolgreichen Entwicklung von KI und hilft der Menschheit, ihr transformatives Potenzial zu nutzen. Wir müssen die Entwicklung der KI kontinuierlich beobachten, während sich die Technologie weiterentwickelt“, betonte Lorvo.

(Laut MIT News)