Foto 8_Audrey Lorvo.jpg
Audrey Lorvo es estudiante de último año de Ciencias de la Computación, Economía y Ciencia de Datos, y becaria de Responsabilidad Social y Ética en Computación (SERC). Foto: MIT

Investigación sobre seguridad de la IA: un campo importante

Audrey Lorvo investiga actualmente la seguridad de la IA, un campo que busca garantizar que los modelos de inteligencia artificial, cada vez más inteligentes, sigan siendo fiables y beneficiosos para la humanidad. Este campo se centra en desafíos técnicos como la tolerancia a errores y la adaptación de la IA a los valores humanos, a la vez que aborda cuestiones sociales como la transparencia y la rendición de cuentas. Los expertos también están preocupados por los riesgos existenciales de una IA cada vez más potente.

“Garantizar que la IA no se utilice indebidamente ni funcione en contra de las intenciones humanas es cada vez más importante, especialmente a medida que nos acercamos a la inteligencia artificial general (IAG)”, compartió Lorvo.

Lorvo, investigadora del programa de Responsabilidad Social y Ética de la Computación (SERC) del Instituto Schwarzman de Computación del MIT, está interesada en cómo la IA puede automatizar los procesos de investigación y desarrollo de IA. «Necesitamos hacer todo lo posible para desarrollar la IA de forma segura», enfatizó, y solicitó marcos de gobernanza y estrategias adecuados para abordar los riesgos.

Lorvo se compromete a comprender los aspectos técnicos de la seguridad de la IA a través de iniciativas como la Beca de Ingeniería de Seguridad de IA, que le permite investigar formas de guiar el desarrollo de la IA de una manera que beneficie a la humanidad.

"El programa me ayudó a comprender mejor los problemas técnicos y los desafíos de la seguridad de la IA, lo que me permitió proponer estrategias de gobernanza de la IA más efectivas", comentó.

Según Lorvo, los pioneros de la IA están impulsando la frontera tecnológica, lo que requiere la implementación de políticas efectivas para priorizar la seguridad humana sin obstaculizar la investigación.

El valor de un enfoque multidisciplinario

Desde que ingresó al MIT, Lorvo quiso combinar ciencias y humanidades. Sin embargo, la diversidad de campos de formación le dificultó elegir una especialización específica.

Hay muchas maneras de mejorar la calidad de vida, y el MIT ofrece innumerables vías paraexplorarlas . Las clases de econometría del profesor Joshua Angrist me ayudaron a comprender el valor de la investigación económica, mientras que la ciencia de datos y la informática me intrigaron por el creciente potencial de la IA. Podemos usar estas herramientas para resolver nuestros problemas más urgentes y superar desafíos importantes, afirmó Lorvo.

Lorvo también amplió su investigación a la planificación urbana y el desarrollo internacional. Al profundizar en su campo, se dio cuenta de que muchos estudiantes del MIT, especialmente del grupo de Alineación de IA del MIT, compartían su visión sobre la tecnología responsable.

El concepto de «impacto marginal» describe el impacto adicional de una inversión de tiempo, dinero o esfuerzo en un área determinada. Según Lorvo, este enfoque ayuda a las personas a decidir cómo invertir sus recursos de forma más eficiente.

En un mundo de recursos limitados, argumenta Lorvo, un enfoque basado en datos puede ayudar a asignar recursos a áreas donde probablemente generen el mayor beneficio. Si queremos maximizar el impacto social, es importante considerar el impacto marginal de las decisiones profesionales.

Experiencia estudiantil en el MIT

Además de estudiar, Lorvo participa activamente en actividades extracurriculares para construir experiencias significativas y conectarse con otros estudiantes.

"Tengo la suerte de poder compaginar mis estudios, mi investigación, mis actividades en clubes y mis intereses personales, como el entrenamiento con pesas o la participación en iniciativas extracurriculares. El MIT siempre ofrece muchos clubes y eventos interesantes para explorar", afirmó Lorvo.

Estas oportunidades no solo ampliaron sus horizontes, sino que también la ayudaron a definir su trayectoria profesional. Lorvo, quien habla con fluidez francés, inglés, español y portugués, también valoró los programas de experiencia internacional del MIT.

Lorvo, quien realizó prácticas en Santiago de Chile y París a través del programa MISTI, también probó un sistema de condensación de vapor diseñado por su equipo como parte de la promoción D-Lab de 2023, en colaboración con la Escuela Politécnica de Madagascar y la ONG Tatirano. Estas experiencias le ayudaron a comprender mejor cómo abordar la desigualdad económica.

Después de graduarse, Lorvo dijo que quiere seguir investigando estrategias de seguridad y gobernanza de la IA para garantizar que la IA se implemente de manera segura y eficaz.

“Una buena gobernanza es clave para el desarrollo exitoso de la IA y para ayudar a la humanidad a aprovechar su potencial transformador. Debemos monitorear continuamente el desarrollo de la IA a medida que la tecnología continúa evolucionando”, afirmó Lorvo.

(Según MIT News)