Zdjęcie 8_Audrey Lorvo.jpg
Audrey Lorvo jest studentką ostatniego roku informatyki, ekonomii i nauki o danych oraz stypendystką programu Społeczna Odpowiedzialność i Etyka w Informatyce (SERC). Zdjęcie: MIT

Badania nad bezpieczeństwem sztucznej inteligencji – ważna dziedzina

Audrey Lorvo zajmuje się obecnie badaniami nad bezpieczeństwem sztucznej inteligencji (AI), dziedziną, której celem jest zapewnienie, że coraz bardziej inteligentne modele sztucznej inteligencji pozostaną wiarygodne i korzystne dla ludzkości. Dziedzina ta koncentruje się na wyzwaniach technicznych, takich jak tolerancja błędów i dostosowanie AI do ludzkich wartości, a jednocześnie zajmuje się kwestiami społecznymi, takimi jak przejrzystość i rozliczalność. Eksperci są również zaniepokojeni egzystencjalnymi zagrożeniami związanymi z coraz potężniejszą sztuczną inteligencją.

„Coraz ważniejsze jest zadbanie o to, aby sztuczna inteligencja nie była wykorzystywana niewłaściwie ani nie działała wbrew ludzkim zamiarom, zwłaszcza w miarę jak zbliżamy się do osiągnięcia sztucznej inteligencji ogólnej (AGI)” – powiedział Lorvo.

Lorvo, stypendystka programu Socially and Ethically Responsible Computing (SERC) w Instytucie Informatyki im. Schwarzmana na MIT, interesuje się tym, jak sztuczna inteligencja może zautomatyzować procesy badawczo-rozwojowe w tej dziedzinie. „Musimy zrobić wszystko, co w naszej mocy, aby rozwijać sztuczną inteligencję w sposób bezpieczny” – podkreśliła, zwracając uwagę na odpowiednie ramy zarządzania i strategie przeciwdziałania ryzyku.

Lorvo angażuje się w zrozumienie technicznych aspektów bezpieczeństwa sztucznej inteligencji (AI) poprzez inicjatywy takie jak AI Safety Engineering Fellowship, które pomagają jej badać sposoby kierowania rozwojem sztucznej inteligencji w sposób przynoszący korzyści ludzkości.

„Program pomógł mi lepiej zrozumieć techniczne kwestie i wyzwania związane z bezpieczeństwem sztucznej inteligencji, co pozwoliło mi zaproponować skuteczniejsze strategie zarządzania sztuczną inteligencją” – dodała.

Według Lorvo pionierzy sztucznej inteligencji przesuwają granice technologii, co wymaga skutecznego wdrożenia polityki, która będzie dawać priorytet bezpieczeństwu człowieka, nie utrudniając jednocześnie badań.

Wartość podejścia multidyscyplinarnego

Od momentu rozpoczęcia studiów na MIT Lorvo pragnęła połączyć nauki ścisłe z humanistycznymi. Jednak różnorodność kierunków kształcenia utrudniała jej wybór konkretnego kierunku.

„Istnieje wiele sposobów na poprawę jakości życia, a MIT oferuje niezliczone możliwości ich zgłębiania . Zajęcia z ekonometrii prowadzone przez profesora Joshuę Angrista pomogły mi dostrzec wartość badań ekonomicznych, a nauka o danych i informatyka urzekły mnie ze względu na rosnący potencjał sztucznej inteligencji. Możemy wykorzystać te narzędzia do rozwiązywania naszych najpilniejszych problemów i pokonywania poważnych wyzwań” – powiedział Lorvo.

Lorvo poszerzyła również swoje badania na temat planowania urbanistycznego i rozwoju międzynarodowego. Zagłębiając się w swoją dziedzinę, zdała sobie sprawę, że wielu studentów MIT, zwłaszcza grupa MIT AI Alignment, podzielało jej poglądy na temat odpowiedzialnej technologii.

Koncepcja „wpływu marginalnego” opisuje dodatkowy wpływ inwestycji czasu, pieniędzy lub wysiłku w danym obszarze. Według Lorvo, takie podejście pomaga jednostkom decydować, jak efektywniej inwestować swoje zasoby.

W świecie ograniczonych zasobów, argumentuje Lorvo, podejście oparte na danych może pomóc w alokacji zasobów w obszarach, które prawdopodobnie przyniosą największe korzyści. Jeśli chcemy zmaksymalizować wpływ społeczny, ważne jest, aby zastanowić się nad marginalnym wpływem wyborów zawodowych.

Doświadczenia studenckie w MIT

Oprócz zajęć akademickich Lorvo aktywnie uczestniczy w zajęciach pozalekcyjnych, co pozwala mu zdobywać wartościowe doświadczenia i nawiązywać kontakty z innymi studentami.

„Mam szczęście, że mogę pogodzić naukę, badania, działalność klubową i zainteresowania osobiste, takie jak trening siłowy czy udział w zajęciach pozalekcyjnych. MIT zawsze ma wiele ciekawych klubów i wydarzeń do odkrycia” – powiedział Lorvo.

Te możliwości nie tylko poszerzyły jej horyzonty, ale także pomogły jej dopracować ścieżkę kariery. Lorvo, biegle włada językiem francuskim, angielskim, hiszpańskim i portugalskim, doceniła również programy międzynarodowych doświadczeń oferowane przez MIT.

Lorvo, która odbyła staże w Santiago de Chile i Paryżu w ramach programu MISTI, brała również udział w testowaniu systemu kondensacji pary wodnej zaprojektowanego przez jej zespół w ramach programu D-Lab Class of 2023, we współpracy z Politechniką Madagaskarską i organizacją pozarządową Tatirano. Doświadczenia te pomogły jej zrozumieć, jak walczyć z nierównościami ekonomicznymi.

Po ukończeniu studiów Lorvo powiedział, że chce kontynuować badania nad bezpieczeństwem sztucznej inteligencji i strategiami zarządzania nią, aby zapewnić bezpieczne i efektywne wdrażanie sztucznej inteligencji.

„Dobre zarządzanie jest kluczem do pomyślnego rozwoju sztucznej inteligencji i pomocy ludzkości w wykorzystaniu jej potencjału transformacyjnego. Musimy stale monitorować rozwój sztucznej inteligencji w miarę jej rozwoju” – zapewnił Lorvo.

(Według MIT News)