Fotoğraf 8_Audrey Lorvo.jpg
Audrey Lorvo, Bilgisayar Bilimleri, Ekonomi ve Veri Bilimi alanlarında son sınıf öğrencisi ve Bilgisayarda Sosyal Sorumluluk ve Etik (SERC) Akademisyenidir. Fotoğraf: MIT

Yapay zeka güvenliği araştırması - önemli bir alan

Audrey Lorvo, giderek daha akıllı hale gelen yapay zekâ modellerinin güvenilir ve insanlığa faydalı kalmasını sağlamayı amaçlayan bir alan olan yapay zekâ güvenliği üzerine araştırmalar yürütüyor. Bu alan, hata toleransı ve yapay zekânın insan değerleriyle uyumlu hale getirilmesi gibi teknik zorluklara odaklanırken, aynı zamanda şeffaflık ve hesap verebilirlik gibi sosyal sorunları da ele alıyor. Uzmanlar ayrıca, giderek güçlenen yapay zekânın varoluşsal riskleri konusunda da endişeli.

Lorvo, "Yapay zekanın kötüye kullanılmamasını veya insan amacına aykırı şekilde çalışmamasını sağlamak, özellikle yapay genel zekaya (AGI) yaklaştıkça giderek daha da önemli hale geliyor" dedi.

MIT Schwarzman Bilişim Enstitüsü'nün Sosyal ve Etik Sorumluluk Sahibi Bilişim (SERC) programında akademisyen olan Lorvo, yapay zekanın araştırma ve geliştirme süreçlerini nasıl otomatikleştirebileceğiyle ilgileniyor. "Yapay zekayı güvenli bir şekilde geliştirmek için elimizden gelen her şeyi yapmalıyız," diyerek, riskleri ele almak için uygun yönetişim çerçevelerine ve stratejilerine dikkat çekiyor.

Lorvo, yapay zeka gelişimini insanlığa fayda sağlayacak şekilde yönlendirmenin yollarını araştırmasına yardımcı olan Yapay Zeka Güvenliği Mühendisliği Bursu gibi girişimler aracılığıyla yapay zeka güvenliğinin teknik yönlerini anlamaya kendini adamıştır.

"Program, yapay zeka güvenliğinin teknik sorunları ve zorlukları hakkında daha derin bir anlayış kazanmama yardımcı oldu ve bu sayede daha etkili yapay zeka yönetişim stratejileri önerebildim." diye paylaştı.

Lorvo'ya göre yapay zeka öncüleri teknolojik sınırları zorluyor ve araştırmayı engellemeden insan güvenliğini önceliklendiren etkili politika uygulamaları gerektiriyor.

Çok disiplinli bir yaklaşımın değeri

Lorvo, MIT'ye girdiği andan itibaren fen bilimleri ve beşeri bilimleri birleştirmek istiyordu. Ancak eğitim alanlarının çeşitliliği, belirli bir anadal seçmesini zorlaştırıyordu.

Lorvo, "Yaşam kalitesini iyileştirmenin birçok yolu var ve MIT bunları keşfetmek için sayısız yol sunuyor. Profesör Joshua Angrist'in ekonometri dersleri, ekonomik araştırmaların değerini görmeme yardımcı oldu; veri bilimi ve bilişim ise yapay zekanın artan potansiyeli nedeniyle beni büyüledi. Bu araçları en acil sorunlarımızı çözmek ve ciddi zorlukların üstesinden gelmek için kullanabiliriz," dedi.

Lorvo, araştırmalarını şehir planlama ve uluslararası kalkınma alanlarına da genişletti. Alanında derinleştikçe, birçok MIT öğrencisinin, özellikle de MIT Yapay Zeka Uyum Grubu'nun, sorumlu teknoloji konusundaki görüşlerini paylaştığını fark etti.

"Marjinal etki" kavramı, belirli bir alana zaman, para veya emek yatırımının ek etkisini tanımlar. Lorvo'ya göre bu yaklaşım, bireylerin kaynaklarını nasıl daha etkili bir şekilde yatıracaklarına karar vermelerine yardımcı olur.

Lorvo, sınırlı kaynakların olduğu bir dünyada, veri odaklı bir yaklaşımın, kaynakların en büyük faydayı sağlama olasılığı yüksek alanlara tahsis edilmesine yardımcı olabileceğini savunuyor. Sosyal etkiyi en üst düzeye çıkarmak istiyorsak, kariyer seçimlerinin marjinal etkisini düşünmek önemlidir.

MIT'de Öğrenci Deneyimi

Lorvo, akademik çalışmalarının yanı sıra anlamlı deneyimler oluşturmak ve diğer öğrencilerle bağlantı kurmak için ders dışı etkinliklere de aktif olarak katılıyor.

Lorvo, "Çalışmalarım, araştırmam, kulüp aktivitelerim ve ağırlık antrenmanı veya ders dışı etkinliklere katılım gibi kişisel ilgi alanlarım arasında denge kurabildiğim için şanslıyım. MIT'de her zaman keşfedebileceğiniz birçok ilginç kulüp ve etkinlik var," dedi.

Bu fırsatlar, ufkunu genişletmekle kalmadı, aynı zamanda kariyer yolunu da geliştirmesine yardımcı oldu. Fransızca, İngilizce, İspanyolca ve Portekizce'yi akıcı bir şekilde konuşabilen Lorvo, MIT'nin uluslararası deneyim programlarını da takdir etti.

MISTI programı kapsamında Santiago, Şili ve Paris'te staj yapan Lorvo, Madagaskar Politeknik Okulu ve Tatirano STK'sı iş birliğiyle, ekibi tarafından D-Lab 2023 Sınıfı kapsamında tasarlanan bir buhar yoğuşturma sisteminin testine de katıldı. Bu deneyimler, Lorvo'nun ekonomik eşitsizlikle nasıl başa çıkabileceğini anlamasına yardımcı oldu.

Lorvo, mezun olduktan sonra yapay zekanın güvenli ve etkili bir şekilde kullanılmasını sağlamak için yapay zeka güvenliği ve yönetişim stratejileri üzerine araştırma yapmaya devam etmek istediğini söyledi.

Lorvo, "İyi yönetişim, yapay zekanın başarılı bir şekilde geliştirilmesi ve insanlığın dönüştürücü potansiyelinden yararlanmasına yardımcı olmanın anahtarıdır. Teknoloji gelişmeye devam ettikçe yapay zekanın gelişimini sürekli olarak izlemeliyiz," diye belirtti.

(MIT Haberlerine göre)