Photo 8_Audrey Lorvo.jpg
Audrey Lorvo est étudiante en dernière année d'informatique, d'économie et de science des données, et titulaire d'une bourse SERC (Social Responsibility and Ethics in Computing). Photo : MIT

La recherche sur la sécurité de l'IA : un domaine important

Audrey Lorvo mène actuellement des recherches sur la sécurité de l'IA, un domaine qui vise à garantir que les modèles d'intelligence artificielle de plus en plus intelligents restent fiables et bénéfiques pour l'humanité. Ce domaine se concentre sur les défis techniques tels que la tolérance aux erreurs et l'adéquation de l'IA aux valeurs humaines, tout en abordant des questions sociales comme la transparence et la responsabilité. Les experts s'inquiètent également des risques existentiels liés à une IA de plus en plus puissante.

« Il est de plus en plus important de veiller à ce que l’IA ne soit pas utilisée à mauvais escient ou ne fonctionne pas à l’encontre de l’intention humaine, en particulier à mesure que nous nous rapprochons de l’intelligence artificielle générale (AGI) », a partagé Lorvo.

Chercheuse au sein du programme « Informatique socialement et éthiquement responsable » (SERC) de l'Institut Schwarzman d'informatique du MIT, Lorvo s'intéresse à la manière dont l'IA peut automatiser les processus de recherche et développement. « Nous devons tout mettre en œuvre pour développer l'IA en toute sécurité », a-t-elle souligné, attirant l'attention sur la nécessité de cadres de gouvernance et de stratégies adaptés pour gérer les risques.

Lorvo s'engage à comprendre les aspects techniques de la sécurité de l'IA à travers des initiatives telles que l'AI Safety Engineering Fellowship, qui l'aide à rechercher des moyens de guider le développement de l'IA de manière à bénéficier à l'humanité.

« Le programme m'a aidé à acquérir une compréhension plus approfondie des problèmes techniques et des défis liés à la sécurité de l'IA, proposant ainsi des stratégies de gouvernance de l'IA plus efficaces », a-t-elle partagé.

Selon Lorvo, les pionniers de l’IA repoussent les frontières technologiques, nécessitant une mise en œuvre de politiques efficaces pour donner la priorité à la sécurité humaine sans entraver la recherche.

La valeur d'une approche multidisciplinaire

Dès son entrée au MIT, Lorvo souhaitait combiner sciences et lettres. Cependant, la diversité des domaines de formation lui a compliqué le choix d'une spécialisation spécifique.

« Il existe de nombreuses façons d'améliorer la qualité de vie, et le MIT offre d'innombrables pistes pour les explorer . Les cours d'économétrie du professeur Joshua Angrist m'ont permis de comprendre l'intérêt de la recherche économique, tandis que la science des données et l'informatique m'ont captivé par le potentiel croissant de l'IA. Nous pouvons utiliser ces outils pour résoudre nos problèmes les plus urgents et relever des défis majeurs », a déclaré Lorvo.

Lorvo a également élargi ses recherches à l'urbanisme et au développement international. En approfondissant son domaine, elle a constaté que de nombreux étudiants du MIT, notamment ceux du groupe MIT AI Alignment, partageaient son point de vue sur les technologies responsables.

Le concept d'« impact marginal » décrit l'impact supplémentaire d'un investissement en temps, en argent ou en efforts dans un domaine donné. Selon Lorvo, cette approche aide les individus à décider comment investir leurs ressources plus efficacement.

Dans un monde aux ressources limitées, affirme Lorvo, une approche basée sur les données peut faciliter l'allocation des ressources aux domaines susceptibles de générer les plus grands bénéfices. Si nous voulons maximiser l'impact social, il est important de prendre en compte l'impact marginal des choix de carrière.

Expérience étudiante au MIT

En plus de ses études, Lorvo participe activement à des activités parascolaires pour créer des expériences significatives et se connecter avec ses camarades étudiants.

« J'ai la chance de pouvoir concilier mes études, mes recherches, mes activités associatives et mes centres d'intérêt personnels comme la musculation ou la participation à des activités parascolaires. Le MIT propose toujours de nombreux clubs et événements intéressants à découvrir », a déclaré Lorvo.

Ces opportunités lui ont non seulement permis d'élargir ses horizons, mais aussi de peaufiner son parcours professionnel. Lorvo, qui parle couramment le français, l'anglais, l'espagnol et le portugais, a également apprécié les programmes d'expérience internationale du MIT.

Lorvo, qui a effectué un stage à Santiago du Chili et à Paris dans le cadre du programme MISTI, a également participé aux tests d'un système de condensation de vapeur conçu par son équipe dans le cadre de la promotion 2023 du D-Lab, en partenariat avec l'École Polytechnique de Madagascar et l'ONG Tatirano. Ces expériences lui ont permis de comprendre comment lutter contre les inégalités économiques.

Après avoir obtenu son diplôme, Lorvo a déclaré qu'il souhaitait continuer à rechercher des stratégies de sécurité et de gouvernance de l'IA pour garantir que l'IA soit déployée de manière sûre et efficace.

« Une bonne gouvernance est essentielle au développement réussi de l'IA et permet à l'humanité de tirer parti de son potentiel de transformation. Nous devons suivre en permanence le développement de l'IA à mesure que la technologie évolue », a affirmé Lorvo.

(Selon MIT News)