Foto 8_Audrey Lorvo.jpg
Audrey Lorvo ialah pengkhususan kanan dalam Sains Komputer, Ekonomi , dan Sains Data serta Sarjana Tanggungjawab Sosial dan Etika dalam Pengkomputeran (SERC). Foto: MIT

Penyelidikan keselamatan AI - bidang yang penting

Audrey Lorvo kini sedang menyelidik keselamatan AI, bidang yang bertujuan untuk memastikan model kecerdasan buatan yang semakin pintar kekal boleh dipercayai dan bermanfaat kepada manusia. Bidang ini memberi tumpuan kepada cabaran teknikal seperti toleransi ralat dan menyelaraskan AI dengan nilai kemanusiaan, di samping menangani isu sosial seperti ketelusan dan akauntabiliti. Pakar juga bimbang tentang risiko kewujudan AI yang semakin berkuasa.

"Memastikan AI tidak disalahgunakan atau beroperasi bertentangan dengan niat manusia adalah semakin penting, terutamanya apabila kita semakin menghampiri kecerdasan am buatan (AGI)," kongsi Lorvo.

Seorang sarjana dalam program Pengkomputeran Bertanggungjawab Sosial dan Etika (SERC) di Institut Pengkomputeran Schwarzman MIT, Lorvo berminat dengan cara AI boleh mengautomasikan proses penyelidikan dan pembangunan AI. "Kami perlu melakukan segala yang kami mampu untuk membangunkan AI dengan selamat," tegasnya, menarik perhatian kepada rangka kerja dan strategi tadbir urus yang sesuai untuk menangani risiko.

Lorvo komited untuk memahami aspek teknikal keselamatan AI melalui inisiatif seperti AI ​​Safety Engineering Fellowship, yang membantu penyelidikannya untuk membimbing pembangunan AI dalam cara yang memberi manfaat kepada manusia.

"Program ini membantu saya memperoleh pemahaman yang lebih mendalam tentang isu teknikal dan cabaran keselamatan AI, dengan itu mencadangkan strategi tadbir urus AI yang lebih berkesan," kongsinya.

Menurut Lorvo, perintis AI sedang mendorong sempadan teknologi, memerlukan pelaksanaan dasar yang berkesan untuk mengutamakan keselamatan manusia tanpa menghalang penyelidikan.

Nilai pendekatan pelbagai disiplin

Sejak dia memasuki MIT, Lorvo mahu menggabungkan sains dan kemanusiaan. Bagaimanapun, kepelbagaian bidang latihan menyukarkan beliau untuk memilih jurusan tertentu.

"Terdapat banyak cara untuk meningkatkan kualiti hidup, dan MIT menawarkan banyak peluang untuk menerokainya . Kelas ekonometrik Profesor Joshua Angrist membantu saya melihat nilai penyelidikan ekonomi, manakala sains data dan pengkomputeran menawan saya kerana potensi AI yang semakin meningkat. Kami boleh menggunakan alat ini untuk menyelesaikan masalah kami yang paling mendesak dan mengatasi cabaran yang serius, "kata Lorvo.

Lorvo juga mengembangkan penyelidikannya ke dalam perancangan bandar dan pembangunan antarabangsa. Semasa dia mendalami bidangnya, dia menyedari bahawa ramai pelajar MIT, terutamanya kumpulan MIT AI Alignment, berkongsi pandangannya tentang teknologi yang bertanggungjawab.

Konsep "impak marginal" menerangkan kesan tambahan daripada pelaburan masa, wang atau usaha dalam kawasan tertentu. Menurut Lorvo, pendekatan ini membantu individu memutuskan cara untuk melabur sumber mereka dengan lebih berkesan.

Dalam dunia sumber yang terhad, Lorvo berpendapat, pendekatan dipacu data boleh membantu memperuntukkan sumber kepada kawasan yang mungkin menjana manfaat terbesar. Jika kita ingin memaksimumkan impak sosial, memikirkan impak kecil pilihan kerjaya adalah penting.

Pengalaman Pelajar di MIT

Selain ahli akademik, Lorvo mengambil bahagian secara aktif dalam aktiviti kokurikulum untuk membina pengalaman bermakna dan berhubung dengan rakan pelajar.

"Saya bertuah kerana dapat mengimbangi pengajian, penyelidikan, aktiviti kelab dan minat peribadi saya seperti latihan bebanan atau mengambil bahagian dalam inisiatif ekstrakurikuler. MIT sentiasa mempunyai banyak kelab dan acara menarik untuk diterokai," kata Lorvo.

Peluang ini bukan sahaja meluaskan pandangannya tetapi juga membantunya memperhalusi laluan kerjayanya. Lorvo, yang fasih berbahasa Perancis, Inggeris, Sepanyol dan Portugis, juga menghargai program pengalaman antarabangsa MIT.

Lorvo, yang menjalani latihan di Santiago de Chile dan Paris melalui program MISTI, turut mengambil bahagian dalam menguji sistem pemeluwapan wap yang direka oleh pasukannya sebagai sebahagian daripada Kelas D-Lab 2023, dengan kerjasama Politeknik Sekolah Madagascar dan NGO Tatirano. Pengalaman ini membantunya memahami cara menangani ketidaksamaan ekonomi.

Selepas menamatkan pengajian, Lorvo berkata beliau mahu meneruskan penyelidikan keselamatan AI dan strategi tadbir urus untuk memastikan AI digunakan dengan selamat dan berkesan.

"Tadbir urus yang baik adalah kunci kepada kejayaan pembangunan AI dan membantu manusia memanfaatkan potensi transformatifnya. Kita mesti sentiasa memantau pembangunan AI kerana teknologi terus berkembang," tegas Lorvo.

(Menurut MIT News)