Foto 8_Audrey Lorvo.jpg
Audrey Lorvo studiert Informatik, Wirtschaftswissenschaften und Data Science im letzten Jahr und ist Stipendiatin für Sozialverantwortung und Ethik in der Informatik (SERC). Foto: MIT

KI-Sicherheitsforschung – ein wichtiges Feld

Audrey Lorvo forscht derzeit zur Sicherheit von KI. Ziel ist es sicherzustellen, dass immer intelligentere Modelle der künstlichen Intelligenz vertrauenswürdig und für die Menschheit nützlich bleiben. Der Schwerpunkt liegt auf technischen Herausforderungen wie Fehlertoleranz und der Ausrichtung von KI an menschlichen Werten, während gleichzeitig gesellschaftliche Fragen wie Transparenz und Rechenschaftspflicht behandelt werden. Experten sind zudem besorgt über die existenziellen Risiken einer immer leistungsfähigeren KI.

„Es wird immer wichtiger sicherzustellen, dass KI nicht missbraucht wird oder entgegen den menschlichen Absichten funktioniert, insbesondere da wir uns der künstlichen allgemeinen Intelligenz (AGI) nähern“, teilte Lorvo mit.

Lorvo ist Wissenschaftlerin im Programm „Social and Ethical Responsibility of Computing“ (SERC) am Schwarzman Institute for Computing des MIT und interessiert sich dafür, wie KI Forschungs- und Entwicklungsprozesse automatisieren kann. „Wir müssen alles tun, um KI sicher zu entwickeln“, betonte sie und forderte geeignete Governance-Rahmen und Strategien zur Risikobewältigung.

Lorvo engagiert sich durch Initiativen wie das AI Safety Engineering Fellowship für das Verständnis der technischen Aspekte der KI-Sicherheit. Dadurch kann sie nach Wegen forschen, die KI-Entwicklung so zu lenken, dass sie der Menschheit zugutekommt.

„Das Programm hat mir geholfen, ein tieferes Verständnis für die technischen Probleme und Herausforderungen der KI-Sicherheit zu erlangen und dadurch effektivere KI-Governance-Strategien vorzuschlagen“, erzählte sie.

Laut Lorvo erweitern KI-Pioniere die technologischen Grenzen und erfordern eine wirksame Umsetzung politischer Maßnahmen, um die Sicherheit der Menschen zu priorisieren, ohne die Forschung zu behindern.

Der Wert eines multidisziplinären Ansatzes

Von Beginn ihres Studiums am MIT an wollte Lorvo Naturwissenschaften und Geisteswissenschaften verbinden. Die Vielfalt der Ausbildungsbereiche erschwerte ihr jedoch die Wahl eines bestimmten Hauptfachs.

„Es gibt viele Möglichkeiten, die Lebensqualität zu verbessern, und das MIT bietet unzählige Möglichkeiten, diese zuerkunden . Professor Joshua Angrists Ökonometrie-Kurse haben mir den Wert der Wirtschaftsforschung vor Augen geführt, während mich Data Science und Informatik aufgrund des wachsenden Potenzials der KI faszinierten. Wir können diese Werkzeuge nutzen, um unsere dringendsten Probleme zu lösen und große Herausforderungen zu meistern“, sagte Lorvo.

Lorvo erweiterte ihre Forschung auch auf Stadtplanung und internationale Entwicklung. Als sie tiefer in ihr Fachgebiet eintauchte, stellte sie fest, dass viele MIT-Studierende, insbesondere die MIT AI Alignment-Gruppe, ihre Ansichten zu verantwortungsvoller Technologie teilten.

Das Konzept der „marginalen Wirkung“ beschreibt die zusätzliche Wirkung einer Investition von Zeit, Geld oder Aufwand in einem bestimmten Bereich. Laut Lorvo hilft dieser Ansatz Einzelpersonen dabei, zu entscheiden, wie sie ihre Ressourcen effizienter einsetzen können.

In einer Welt begrenzter Ressourcen, argumentiert Lorvo, könne ein datenbasierter Ansatz helfen, Ressourcen dort einzusetzen, wo sie voraussichtlich den größten Nutzen bringen. Um die soziale Wirkung zu maximieren, sei es wichtig, die marginalen Auswirkungen der Berufswahl zu berücksichtigen.

Studentenerfahrung am MIT

Neben dem Studium nimmt Lorvo aktiv an außerschulischen Aktivitäten teil, um sinnvolle Erfahrungen zu sammeln und Kontakte zu Kommilitonen zu knüpfen.

„Ich habe das Glück, mein Studium, meine Forschung, meine Clubaktivitäten und meine persönlichen Interessen wie Krafttraining oder die Teilnahme an außerschulischen Initiativen unter einen Hut bringen zu können. Am MIT gibt es immer viele interessante Clubs und Veranstaltungen zu entdecken“, sagte Lorvo.

Diese Möglichkeiten erweiterten nicht nur ihren Horizont, sondern halfen ihr auch, ihren Karriereweg zu verfeinern. Lorvo, die fließend Französisch, Englisch, Spanisch und Portugiesisch spricht, schätzte auch die internationalen Erfahrungsprogramme des MIT.

Lorvo, die im Rahmen des MISTI-Programms Praktika in Santiago de Chile und Paris absolvierte, testete im Rahmen des D-Lab-Jahrgangs 2023 außerdem ein Dampfkondensationssystem, das ihr Team in Zusammenarbeit mit der Polytechnischen Schule Madagaskar und der NGO Tatirano entwickelt hatte. Diese Erfahrungen halfen ihr, ein besseres Verständnis für die Bekämpfung wirtschaftlicher Ungleichheit zu entwickeln.

Nach seinem Abschluss möchte Lorvo seine Forschung zu KI-Sicherheits- und Governance-Strategien fortsetzen, um sicherzustellen, dass KI sicher und effektiv eingesetzt wird.

„Eine gute Regierungsführung ist der Schlüssel zur erfolgreichen Entwicklung von KI und hilft der Menschheit, ihr transformatives Potenzial zu nutzen. Wir müssen die Entwicklung der KI kontinuierlich beobachten, während sich die Technologie weiterentwickelt“, betonte Lorvo.

(Laut MIT News)