8. kép_Audrey Lorvo.jpg
Audrey Lorvo számítástechnika, közgazdaságtan és adattudomány szakos felsőbb éves hallgató, valamint a számítástechnika társadalmi felelősségvállalása és etikája (SERC) ösztöndíjas. Fotó: MIT

MI biztonsági kutatás - egy fontos terület

Audrey Lorvo jelenleg a mesterséges intelligencia biztonságával foglalkozik, amelynek célja annak biztosítása, hogy az egyre intelligensebb mesterséges intelligencia modellek továbbra is megbízhatóak és hasznosak maradjanak az emberiség számára. A terület olyan technikai kihívásokra összpontosít, mint a hibatűrés és a mesterséges intelligencia összehangolása az emberi értékekkel, miközben olyan társadalmi kérdésekkel is foglalkozik, mint az átláthatóság és az elszámoltathatóság. A szakértőket aggasztják az egyre erősebb mesterséges intelligencia egzisztenciális kockázatai is.

„Egyre fontosabb biztosítani, hogy a mesterséges intelligenciát ne használják vissza, és ne működjön az emberi szándékkal ellentétesen, különösen ahogy egyre közelebb kerülünk a mesterséges intelligencia (AGI) felé” – osztotta meg Lorvo.

Az MIT Schwarzman Számítástechnikai Intézetének Társadalmilag és Etikailag Felelős Számítástechnika (SERC) programjának tudósaként Lorvo azt vizsgálja, hogy a mesterséges intelligencia hogyan automatizálhatja a mesterséges intelligencia kutatási és fejlesztési folyamatait. „Mindent meg kell tennünk a mesterséges intelligencia biztonságos fejlesztése érdekében” – hangsúlyozta, felhívva a figyelmet a megfelelő irányítási keretekre és stratégiákra a kockázatok kezelésére.

Lorvo elkötelezett a mesterséges intelligencia biztonságának technikai vonatkozásainak megértése iránt olyan kezdeményezéseken keresztül, mint az AI Safety Engineering Fellowship, amely segít neki kutatni a mesterséges intelligencia fejlesztésének az emberiség javát szolgáló módjait.

„A program segített mélyebben megérteni a mesterséges intelligencia biztonságával kapcsolatos technikai kérdéseket és kihívásokat, ezáltal hatékonyabb MI-irányítási stratégiákat javasolhattam” – osztotta meg.

Lorvo szerint a mesterséges intelligencia úttörői a technológiai határokat feszegetik, ami hatékony politikai végrehajtást igényel az emberi biztonság előtérbe helyezése érdekében, a kutatás akadályozása nélkül.

A multidiszciplináris megközelítés értéke

Attól a pillanattól kezdve, hogy belépett az MIT-re, Lorvo a természettudományokat és a humán tudományokat szerette volna ötvözni. A képzési területek sokszínűsége azonban megnehezítette számára a konkrét szak kiválasztását.

„Számos módja van az életminőség javításának, és az MIT számtalan lehetőséget kínál ezek felfedezésére . Joshua Angrist professzor ökonometria órái segítettek felismerni a gazdasági kutatás értékét, míg az adattudomány és a számítástechnika a mesterséges intelligencia növekvő potenciálja miatt ragadott magával. Ezeket az eszközöket felhasználhatjuk a legsürgetőbb problémáink megoldására és a komoly kihívások leküzdésére” – mondta Lorvo.

Lorvo kiterjesztette kutatásait a várostervezésre és a nemzetközi fejlesztésre is. Ahogy egyre mélyebben elmélyült a szakterületén, rájött, hogy sok MIT-hallgató, különösen az MIT AI Alignment csoportja osztja a felelősségteljes technológiáról alkotott nézeteit.

A „marginális hatás” fogalma egy adott területre fordított idő, pénz vagy erőfeszítés többlethatását írja le. Lorvo szerint ez a megközelítés segít az egyéneknek eldönteni, hogyan fektethetik be erőforrásaikat hatékonyabban.

Lorvo szerint a korlátozott erőforrások világában az adatvezérelt megközelítés segíthet az erőforrások olyan területekre történő elosztásában, amelyek valószínűleg a legnagyobb hasznot generálják. Ha maximalizálni akarjuk a társadalmi hatást, fontos, hogy a karrierdöntések marginális hatásait is figyelembe vegyük.

Hallgatói élmény az MIT-n

A tanulmányok mellett Lorvo aktívan részt vesz tanórán kívüli tevékenységekben is, hogy értelmes élményeket szerezzen és kapcsolatot alakítson ki diáktársaival.

„Szerencsés vagyok, hogy egyensúlyban tudom tartani a tanulmányaimat, a kutatásomat, a klubtevékenységeimet és a személyes érdeklődési körömet, mint például a súlyzós edzés vagy a tanórán kívüli kezdeményezésekben való részvétel. Az MIT-n mindig sok érdekes klub és esemény vár rám” – mondta Lorvo.

Ezek a lehetőségek nemcsak szélesítették a látókörét, hanem segítettek a karrierje finomhangolásában is. Lorvo, aki folyékonyan beszél franciául, angolul, spanyolul és portugálul, az MIT nemzetközi tapasztalatszerzési programjait is nagyra értékelte.

Lorvo, aki a MISTI program keretében gyakornokoskodott Santiago de Chilében és Párizsban, részt vett egy gőzkondenzációs rendszer tesztelésében is, amelyet csapata tervezett a 2023-as D-Lab osztály részeként, a Madagaszkári Politechnikai Iskolával és a Tatirano nem kormányzati szervezettel együttműködve. Ezek a tapasztalatok segítettek neki megérteni, hogyan lehet kezelni a gazdasági egyenlőtlenségeket.

Lorvo elmondta, hogy a diploma megszerzése után folytatni szeretné a mesterséges intelligencia biztonsági és irányítási stratégiáinak kutatását, hogy biztosítsa a mesterséges intelligencia biztonságos és hatékony alkalmazását.

„A jó kormányzás kulcsfontosságú a mesterséges intelligencia sikeres fejlesztéséhez és ahhoz, hogy az emberiség kihasználhassa átalakító potenciálját. Folyamatosan figyelemmel kell kísérnünk a mesterséges intelligencia fejlődését, ahogy a technológia is fejlődik” – állította Lorvo.

(Az MIT News szerint)