Foto 8_Audrey Lorvo.jpg
Audrey Lorvo é aluna do último ano de Ciência da Computação, Economia e Ciência de Dados e bolsista de Responsabilidade Social e Ética na Computação (SERC). Foto: MIT

Pesquisa de segurança de IA - um campo importante

Audrey Lorvo está atualmente pesquisando segurança em IA, uma área que visa garantir que modelos de inteligência artificial cada vez mais inteligentes permaneçam confiáveis ​​e benéficos para a humanidade. A área se concentra em desafios técnicos, como tolerância a erros e alinhamento da IA ​​com valores humanos, além de abordar questões sociais como transparência e responsabilização. Especialistas também estão preocupados com os riscos existenciais de uma IA cada vez mais poderosa.

“Garantir que a IA não seja mal utilizada ou opere de forma contrária à intenção humana é cada vez mais importante, especialmente à medida que nos aproximamos da inteligência artificial geral (IAG)”, compartilhou Lorvo.

Acadêmica do programa de Computação Social e Eticamente Responsável (SERC) do Instituto Schwarzman de Computação do MIT, Lorvo está interessada em como a IA pode automatizar os processos de pesquisa e desenvolvimento de IA. "Precisamos fazer tudo o que pudermos para desenvolver IA com segurança", enfatizou, chamando a atenção para estruturas de governança e estratégias adequadas para lidar com os riscos.

Lorvo está comprometida em entender os aspectos técnicos da segurança da IA ​​por meio de iniciativas como a AI Safety Engineering Fellowship, que a ajuda a pesquisar maneiras de orientar o desenvolvimento da IA ​​de maneiras que beneficiem a humanidade.

"O programa me ajudou a obter uma compreensão mais profunda das questões técnicas e dos desafios da segurança da IA, propondo assim estratégias de governança de IA mais eficazes", ela compartilhou.

De acordo com Lorvo, os pioneiros da IA ​​estão expandindo a fronteira tecnológica, exigindo implementação de políticas eficazes para priorizar a segurança humana sem prejudicar a pesquisa.

O valor de uma abordagem multidisciplinar

Desde que entrou no MIT, Lorvo queria combinar ciências e humanidades. No entanto, a diversidade de áreas de formação dificultou a escolha de uma especialização específica.

“Há muitas maneiras de melhorar a qualidade de vida, e o MIT oferece inúmeras possibilidades para explorá- las. As aulas de econometria do professor Joshua Angrist me ajudaram a enxergar o valor da pesquisa econômica, enquanto a ciência de dados e a computação me cativaram devido ao potencial crescente da IA. Podemos usar essas ferramentas para resolver nossos problemas mais urgentes e superar desafios sérios”, disse Lorvo.

Lorvo também expandiu sua pesquisa em planejamento urbano e desenvolvimento internacional. À medida que se aprofundava em sua área, percebeu que muitos alunos do MIT, especialmente do grupo de Alinhamento de IA do MIT, compartilhavam suas visões sobre tecnologia responsável.

O conceito de “impacto marginal” descreve o impacto adicional de um investimento de tempo, dinheiro ou esforço em uma determinada área. Segundo Lorvo, essa abordagem ajuda os indivíduos a decidir como investir seus recursos de forma mais eficaz.

Em um mundo de recursos limitados, argumenta Lorvo, uma abordagem baseada em dados pode ajudar a alocar recursos para áreas com maior probabilidade de gerar os maiores benefícios. Se quisermos maximizar o impacto social, é importante refletir sobre o impacto marginal das escolhas de carreira.

Experiência do Aluno no MIT

Além dos estudos, Lorvo participa ativamente de atividades extracurriculares para construir experiências significativas e se conectar com outros estudantes.

"Tenho a sorte de poder equilibrar meus estudos, pesquisas, atividades de clube e interesses pessoais, como musculação ou participação em iniciativas extracurriculares. O MIT sempre tem muitos clubes e eventos interessantes para explorar", disse Lorvo.

Essas oportunidades não só ampliaram seus horizontes, como também a ajudaram a refinar sua trajetória profissional. Lorvo, fluente em francês, inglês, espanhol e português, também apreciou os programas de experiência internacional do MIT.

Lorvo, que estagiou em Santiago do Chile e Paris pelo programa MISTI, também participou dos testes de um sistema de condensação de vapor projetado por sua equipe como parte da turma de 2023 do D-Lab, em parceria com a Escola Politécnica de Madagascar e a ONG Tatirano. Essas experiências a ajudaram a entender como combater a desigualdade econômica.

Após se formar, Lorvo disse que quer continuar pesquisando estratégias de segurança e governança de IA para garantir que a IA seja implantada com segurança e eficácia.

“Uma boa governança é fundamental para o desenvolvimento bem-sucedido da IA ​​e para ajudar a humanidade a aproveitar seu potencial transformador. Devemos monitorar continuamente o desenvolvimento da IA ​​à medida que a tecnologia evolui”, afirmou Lorvo.

(De acordo com o MIT News)