ภาพที่ 8_Audrey Lorvo.jpg
ออเดรย์ ลอร์โวเป็นนักศึกษาชั้นปีที่ 4 สาขาวิทยาการคอมพิวเตอร์ เศรษฐศาสตร์ และวิทยาศาสตร์ข้อมูล และเป็นนักวิชาการด้านความรับผิดชอบต่อสังคมและจริยธรรมในการประมวลผล (SERC) ภาพ: MIT

การวิจัยด้านความปลอดภัยของ AI - สาขาที่สำคัญ

ปัจจุบัน ออเดรย์ ลอร์โว กำลังทำการวิจัยเกี่ยวกับความปลอดภัยของ AI ซึ่งเป็นสาขาที่มุ่งหวังให้โมเดลปัญญาประดิษฐ์ที่ชาญฉลาดมากขึ้นยังคงน่าเชื่อถือและเป็นประโยชน์ต่อมนุษยชาติ สาขานี้มุ่งเน้นไปที่ความท้าทายทางเทคนิค เช่น การทนทานต่อข้อผิดพลาดและการจัดแนว AI ให้สอดคล้องกับค่านิยมของมนุษย์ ขณะเดียวกันก็จัดการกับปัญหาทางสังคม เช่น ความโปร่งใสและความรับผิดชอบ ผู้เชี่ยวชาญยังกังวลเกี่ยวกับความเสี่ยงต่อการดำรงอยู่ของ AI ที่มีประสิทธิภาพมากขึ้นอีกด้วย

“การทำให้แน่ใจว่า AI จะไม่ได้ถูกนำไปใช้ในทางที่ผิดหรือทำงานขัดต่อเจตนาของมนุษย์นั้นมีความสำคัญเพิ่มมากขึ้น โดยเฉพาะอย่างยิ่งเมื่อเราก้าวเข้าใกล้ปัญญาประดิษฐ์ทั่วไป (AGI) มากขึ้น” Lorvo กล่าว

ลอร์โว นักวิชาการด้านความรับผิดชอบทางสังคมและจริยธรรมของการประมวลผล (SERC) ที่สถาบัน Schwarzman Institute for Computing ของสถาบัน MIT สนใจว่าปัญญาประดิษฐ์ (AI) สามารถทำให้กระบวนการวิจัยและพัฒนาปัญญาประดิษฐ์เป็นระบบอัตโนมัติได้อย่างไร เธอย้ำว่า “เราต้องทำทุกวิถีทางเพื่อพัฒนาปัญญาประดิษฐ์อย่างปลอดภัย” โดยเรียกร้องให้มีกรอบการทำงานและกลยุทธ์การกำกับดูแลที่เหมาะสมเพื่อจัดการกับความเสี่ยง

Lorvo มุ่งมั่นที่จะทำความเข้าใจด้านเทคนิคของความปลอดภัยของ AI ผ่านทางโครงการต่าง ๆ เช่น AI Safety Engineering Fellowship ที่เปิดโอกาสให้เธอสามารถค้นคว้าวิธีการแนะนำการพัฒนา AI ในลักษณะที่เป็นประโยชน์ต่อมนุษยชาติ

“โปรแกรมนี้ช่วยให้ฉันมีความเข้าใจที่ลึกซึ้งยิ่งขึ้นเกี่ยวกับปัญหาทางเทคนิคและความท้าทายของความปลอดภัยของ AI จึงสามารถเสนอกลยุทธ์การกำกับดูแล AI ที่มีประสิทธิภาพมากขึ้น” เธอกล่าว

ตามที่ Lorvo กล่าว ผู้บุกเบิก AI กำลังผลักดันขอบเขตเทคโนโลยี โดยต้องมีการดำเนินนโยบายอย่างมีประสิทธิผลเพื่อให้ความสำคัญกับความปลอดภัยของมนุษย์เป็นอันดับแรกโดยไม่ขัดขวางการวิจัย

คุณค่าของแนวทางสหสาขาวิชา

ตั้งแต่วินาทีแรกที่เข้าเรียนที่ MIT ลอร์โวก็อยากผสมผสาน วิทยาศาสตร์ เข้ากับมนุษยศาสตร์ อย่างไรก็ตาม ความหลากหลายของสาขาการฝึกอบรมทำให้เธอตัดสินใจเลือกสาขาวิชาเอกเฉพาะได้ยาก

“มีหลายวิธีที่จะปรับปรุงคุณภาพชีวิต และสถาบันเทคโนโลยีแมสซาชูเซตส์เสนอแนวทางมากมายใน การสำรวจ แนวทางเหล่านี้ ชั้นเรียนเศรษฐมิติของศาสตราจารย์ Joshua Angrist ช่วยให้ฉันเห็นคุณค่าของการวิจัยทางเศรษฐกิจ ในขณะที่วิทยาศาสตร์ข้อมูลและการคำนวณทำให้ฉันสนใจเพราะศักยภาพที่เพิ่มขึ้นของ AI เราสามารถใช้เครื่องมือเหล่านี้เพื่อแก้ปัญหาเร่งด่วนที่สุดของเราและเอาชนะความท้าทายที่สำคัญได้” Lorvo กล่าว

นอกจากนี้ ลอร์โวยังขยายขอบเขตการวิจัยของเธอในด้านการวางผังเมืองและการพัฒนาระหว่างประเทศอีกด้วย เมื่อเธอเจาะลึกลงไปในสาขาของเธอมากขึ้น เธอก็ได้ตระหนักว่านักศึกษา MIT จำนวนมาก โดยเฉพาะกลุ่ม MIT AI Alignment ต่างก็มีมุมมองของเธอเกี่ยวกับเทคโนโลยีที่มีความรับผิดชอบเช่นเดียวกัน

แนวคิดเรื่อง “ผลกระทบส่วนเพิ่ม” อธิบายถึงผลกระทบเพิ่มเติมของการลงทุนด้านเวลา เงิน หรือความพยายามในพื้นที่ที่กำหนด ตามที่ Lorvo กล่าว แนวทางนี้ช่วยให้บุคคลต่างๆ ตัดสินใจได้ว่าจะลงทุนทรัพยากรของตนอย่างมีประสิทธิภาพมากขึ้นอย่างไร

ในโลกที่มีทรัพยากรจำกัด ลอร์โวโต้แย้งว่าแนวทางที่ขับเคลื่อนด้วยข้อมูลสามารถช่วยจัดสรรทรัพยากรไปยังพื้นที่ที่น่าจะก่อให้เกิดประโยชน์สูงสุดได้ หากเราต้องการเพิ่มผลกระทบทางสังคมให้สูงสุด การคิดถึงผลกระทบเล็กน้อยของการเลือกอาชีพจึงเป็นสิ่งสำคัญ

ประสบการณ์นักศึกษาที่ MIT

นอกเหนือจากการเรียนแล้ว ลอร์โวยังเข้าร่วมกิจกรรมนอกหลักสูตรอย่างกระตือรือร้นเพื่อสร้างประสบการณ์ที่มีความหมายและเชื่อมโยงกับเพื่อนร่วมชั้นเรียน

“ฉันโชคดีที่สามารถสร้างสมดุลระหว่างการเรียน การวิจัย กิจกรรมชมรม และความสนใจส่วนตัว เช่น การฝึกยกน้ำหนักหรือการเข้าร่วมกิจกรรมนอกหลักสูตรได้ MIT มีชมรมและกิจกรรมที่น่าสนใจมากมายให้สำรวจอยู่เสมอ” ลอร์โวกล่าว

โอกาสเหล่านี้ไม่เพียงแต่ช่วยเปิดโลกทัศน์ของเธอเท่านั้น แต่ยังช่วยให้เธอปรับเส้นทางอาชีพของเธอได้ดีขึ้นด้วย ลอร์โวซึ่งพูดภาษาฝรั่งเศส อังกฤษ สเปน และโปรตุเกสได้คล่อง ยังชื่นชมโครงการประสบการณ์ระดับนานาชาติของ MIT อีกด้วย

ลอร์โว ซึ่งฝึกงานที่ซานติอาโกเดชิลีและปารีสผ่านโครงการ MISTI ยังได้ทดสอบระบบควบแน่นไอน้ำที่ออกแบบโดยทีมงานของเธอซึ่งเป็นส่วนหนึ่งของชั้นเรียน D-Lab ปี 2023 ร่วมกับโรงเรียนโพลีเทคนิคแห่งมาดากัสการ์และองค์กรพัฒนาเอกชน Tatirano ประสบการณ์เหล่านี้ช่วยให้เธอเข้าใจถึงวิธีการจัดการกับความไม่เท่าเทียมกันทางเศรษฐกิจได้ดีขึ้น

หลังจากสำเร็จการศึกษา ลอร์โวกล่าวว่าเขาต้องการทำการวิจัยกลยุทธ์ด้านความปลอดภัยและการกำกับดูแล AI ต่อไป เพื่อให้แน่ใจว่า AI จะถูกนำไปใช้อย่างปลอดภัยและมีประสิทธิภาพ

“ธรรมาภิบาลเป็นกุญแจสำคัญในการพัฒนา AI ให้ประสบความสำเร็จ และช่วยให้มนุษยชาติใช้ประโยชน์จากศักยภาพในการเปลี่ยนแปลงของ AI ได้อย่างเต็มที่ เราต้องติดตามการพัฒนา AI อย่างต่อเนื่องในขณะที่เทคโนโลยียังคงพัฒนาต่อไป” Lorvo กล่าว

(ตามรายงานของ MIT News)