Fotografie 8_Audrey Lorvo.jpg
Audrey Lorvo je studentkou posledního ročníku oboru informatika, ekonomie a datová věda a je stipendistkou programu Social Responsibility and Ethics in Computing (SERC). Foto: MIT

Výzkum bezpečnosti umělé inteligence – důležitá oblast

Audrey Lorvo v současné době zkoumá bezpečnost umělé inteligence, oblast, jejímž cílem je zajistit, aby stále inteligentnější modely umělé inteligence zůstaly důvěryhodné a prospěšné pro lidstvo. Tato oblast se zaměřuje na technické výzvy, jako je tolerance chyb a sladění umělé inteligence s lidskými hodnotami, a zároveň se zabývá sociálními otázkami, jako je transparentnost a odpovědnost. Odborníci se také obávají existenčních rizik stále silnější umělé inteligence.

„Zajistit, aby umělá inteligence nebyla zneužívána nebo nefungovala v rozporu s lidským záměrem, je stále důležitější, zejména s přibližováním se k obecné umělé inteligenci (AGI),“ uvedl Lorvo.

Lorvo, která se věnuje programu Socially and Ethically Responsible Computing (SERC) na Schwarzmanově institutu pro informatiku na MIT, se zajímá o to, jak může umělá inteligence automatizovat procesy výzkumu a vývoje v oblasti umělé inteligence. „Musíme udělat vše pro to, abychom umělou inteligenci vyvíjeli bezpečně,“ zdůraznila a upozornila na vhodné rámce správy a strategie pro řešení rizik.

Lorvo se věnuje pochopení technických aspektů bezpečnosti umělé inteligence prostřednictvím iniciativ, jako je AI Safety Engineering Fellowship, které jí pomáhá zkoumat způsoby, jak usměrňovat vývoj umělé inteligence tak, aby to prospívalo lidstvu.

„Program mi pomohl hlouběji porozumět technickým problémům a výzvám v oblasti bezpečnosti umělé inteligence, a tím navrhnout efektivnější strategie řízení umělé inteligence,“ sdělila.

Podle Lorva posouvají průkopníci umělé inteligence technologické hranice, což vyžaduje efektivní implementaci politik s cílem upřednostnit lidskou bezpečnost, aniž by se bránilo výzkumu.

Hodnota multidisciplinárního přístupu

Od chvíle, kdy nastoupila na MIT, chtěla Lorvo kombinovat přírodní a humanitní obory. Rozmanitost studijních oborů jí však ztěžovala výběr konkrétního oboru.

„Existuje mnoho způsobů, jak zlepšit kvalitu života, a MIT nabízí nespočet možností, jak je prozkoumat . Hodiny ekonometrie profesora Joshuy Angrista mi pomohly pochopit hodnotu ekonomického výzkumu, zatímco datová věda a informatika mě uchvátily kvůli rostoucímu potenciálu umělé inteligence. Tyto nástroje můžeme využít k řešení našich nejnaléhavějších problémů a překonání vážných výzev,“ řekl Lorvo.

Lorvo také rozšířila svůj výzkum v oblasti urbanistického plánování a mezinárodního rozvoje. Jak se hlouběji ponořovala do svého oboru, uvědomila si, že mnoho studentů MIT, zejména skupina MIT AI Alignment, sdílí její názory na zodpovědné technologie.

Koncept „marginálního dopadu“ popisuje dodatečný dopad investice času, peněz nebo úsilí v dané oblasti. Podle Lorva tento přístup pomáhá jednotlivcům rozhodnout se, jak efektivněji investovat své zdroje.

Lorvo tvrdí, že ve světě omezených zdrojů může přístup založený na datech pomoci alokovat zdroje do oblastí, které pravděpodobně přinesou největší užitek. Pokud chceme maximalizovat společenský dopad, je důležité přemýšlet o okrajovém dopadu volby kariéry.

Studentské zkušenosti na MIT

Kromě akademických aktivit se Lorvo aktivně účastní mimoškolních aktivit, aby si vybudoval smysluplné zážitky a navázal kontakt se spolužáky.

„Mám štěstí, že dokážu skloubit studium, výzkum, klubové aktivity a osobní zájmy, jako je posilování nebo účast na mimoškolních iniciativách. MIT má vždycky spoustu zajímavých klubů a akcí, které stojí za to prozkoumat,“ řekl Lorvo.

Tyto příležitosti jí nejen rozšířily obzory, ale také jí pomohly zdokonalit kariérní dráhu. Lorvo, která plynně hovoří francouzsky, anglicky, španělsky a portugalsky, ocenila také mezinárodní programy MIT.

Lorvo, která absolvovala stáž v Santiagu de Chile a Paříži v rámci programu MISTI, se také zúčastnila testování systému kondenzace páry, který navrhl její tým v rámci kurzu D-Lab v roce 2023 ve spolupráci s Polytechnickou školou Madagaskaru a nevládní organizací Tatirano. Tyto zkušenosti jí pomohly pochopit, jak řešit ekonomickou nerovnost.

Lorvo uvedl, že po absolvování studia chce pokračovat ve výzkumu strategií bezpečnosti a řízení umělé inteligence, aby zajistil bezpečné a efektivní nasazení umělé inteligence.

„Řádná správa věcí veřejných je klíčem k úspěšnému rozvoji umělé inteligence a k tomu, aby lidstvo mohlo využít její transformační potenciál. Musíme neustále sledovat vývoj umělé inteligence, protože se technologie neustále vyvíjí,“ prohlásil Lorvo.

(Podle MIT News)