Photo 8_Audrey Lorvo.jpg
Audrey Lorvo est étudiante en dernière année d'informatique, d'économie et de science des données, et titulaire d'une bourse SERC (Socially Responsible and Ethics in Computing). Photo : MIT

La recherche sur la sécurité de l'IA : un domaine important

Audrey Lorvo mène actuellement des recherches sur la sécurité de l'IA, un domaine qui vise à garantir que des modèles d'intelligence artificielle de plus en plus intelligents restent fiables et bénéfiques pour l'humanité. Ce domaine se concentre sur les défis techniques tels que la tolérance aux erreurs et l'adéquation de l'IA aux valeurs humaines, tout en abordant des questions sociétales telles que la transparence et la responsabilité. Les experts s'inquiètent également des risques existentiels liés à une IA de plus en plus puissante.

« Il est de plus en plus important de veiller à ce que l’IA ne soit pas utilisée à mauvais escient ou ne fonctionne pas à l’encontre de l’intention humaine, en particulier à mesure que nous nous rapprochons de l’intelligence artificielle générale (AGI) », a partagé Lorvo.

Chercheuse au sein du programme Responsabilité sociale et éthique de l'informatique (SERC) du Schwarzman Institute for Computing du MIT, Lorvo s'intéresse à la manière dont l'IA peut automatiser les processus de recherche et développement. « Nous devons tout mettre en œuvre pour développer l'IA en toute sécurité », a-t-elle souligné, appelant à des cadres de gouvernance et des stratégies adaptés pour gérer les risques.

Lorvo s'engage à comprendre les aspects techniques de la sécurité de l'IA à travers des initiatives telles que l'AI Safety Engineering Fellowship, qui lui permet de rechercher des moyens de guider le développement de l'IA d'une manière qui profite à l'humanité.

« Le programme m'a aidé à acquérir une compréhension plus approfondie des problèmes techniques et des défis liés à la sécurité de l'IA, proposant ainsi des stratégies de gouvernance de l'IA plus efficaces », a-t-elle partagé.

Selon Lorvo, les pionniers de l’IA repoussent les frontières technologiques, nécessitant une mise en œuvre de politiques efficaces pour donner la priorité à la sécurité humaine sans entraver la recherche.

La valeur d'une approche multidisciplinaire

Dès son entrée au MIT, Lorvo souhaitait combiner sciences et lettres. Cependant, la diversité des domaines de formation rendait difficile le choix d'une spécialisation spécifique.

« Il existe de nombreuses façons d'améliorer la qualité de vie, et le MIT offre d'innombrables pistes pour les explorer . Les cours d'économétrie du professeur Joshua Angrist m'ont permis de comprendre l'intérêt de la recherche économique, tandis que la science des données et l'informatique m'ont fasciné en raison du potentiel croissant de l'IA. Nous pouvons utiliser ces outils pour résoudre nos problèmes les plus urgents et surmonter des défis majeurs », a déclaré Lorvo.

Lorvo a également élargi ses recherches à l'urbanisme et au développement international. En approfondissant son domaine, elle a constaté que de nombreux étudiants du MIT, notamment ceux du groupe MIT AI Alignment, partageaient son point de vue sur les technologies responsables.

Le concept d'« impact marginal » décrit l'impact supplémentaire d'un investissement en temps, en argent ou en efforts dans un domaine donné. Selon Lorvo, cette approche aide les individus à décider comment investir leurs ressources plus efficacement.

Dans un monde où les ressources sont limitées, affirme Lorvo, une approche basée sur les données peut aider à allouer les ressources aux domaines où elles sont susceptibles de générer le plus de bénéfices. Si nous voulons maximiser l'impact social, il est important de réfléchir à l'impact marginal des choix de carrière.

Expérience étudiante au MIT

En plus d'étudier, Lorvo participe activement à des activités parascolaires pour créer des expériences significatives et se connecter avec ses camarades étudiants.

« J'ai la chance de pouvoir concilier mes études, mes recherches, mes activités associatives et mes intérêts personnels comme la musculation ou la participation à des activités parascolaires. Le MIT propose toujours de nombreux clubs et événements intéressants à découvrir », a déclaré Lorvo.

Ces opportunités lui ont non seulement permis d'élargir ses horizons, mais aussi d'affiner son parcours professionnel. Lorvo, qui parle couramment le français, l'anglais, l'espagnol et le portugais, a également apprécié les programmes d'expérience internationale du MIT.

Lorvo, qui a effectué un stage à Santiago du Chili et à Paris dans le cadre du programme MISTI, a également testé un système de condensation de vapeur conçu par son équipe dans le cadre de la promotion 2023 du D-Lab, en partenariat avec l'École polytechnique de Madagascar et l'ONG Tatirano. Ces expériences lui ont permis de mieux comprendre comment lutter contre les inégalités économiques.

Après avoir obtenu son diplôme, Lorvo a déclaré qu'il souhaitait continuer à rechercher des stratégies de sécurité et de gouvernance de l'IA pour garantir que l'IA soit déployée de manière sûre et efficace.

« Une bonne gouvernance est essentielle au développement réussi de l'IA et permet à l'humanité de tirer parti de son potentiel de transformation. Nous devons suivre en permanence le développement de l'IA à mesure que la technologie évolue », a affirmé Lorvo.

(Selon MIT News)