ป้องกันไม่ให้ AI ก่อให้เกิดผลที่ไม่พึงประสงค์
โครงการหนึ่งที่สร้างความประทับใจและช่วยให้ ดร. เหงียน วัน เซิน ได้รับรางวัล Golden Globe Science and Technology Award ประจำปี 2024 ซึ่งจัดโดย Central Youth Union คือโครงการวิจัย CodeJIT ซึ่งช่วยให้สามารถตรวจจับการเปลี่ยนแปลงที่เป็นอันตราย (เรียกอีกอย่างว่า commit) ได้ในระยะเริ่มต้น ซึ่งก่อให้เกิดช่องโหว่ด้านความปลอดภัยในกระบวนการพัฒนาซอฟต์แวร์ ช่วยให้นักพัฒนาสามารถตรวจสอบและแก้ไข commit เหล่านี้ได้ทันท่วงทีเมื่อยังเป็นของใหม่และทำตามได้ง่าย
ดร. เหงียน วัน ซอน ให้คำแนะนำนักศึกษาในการวิจัยทางวิทยาศาสตร์
ภาพถ่าย: DUONG TRIEU
ผลการทดลองแสดงให้เห็นว่า CodeJIT มีความแม่นยำสูงในการระบุการกระทำที่เป็นอันตรายได้สูงถึง 90% ดีกว่าวิธีการที่ทันสมัยซึ่งไม่เน้นที่โค้ดต้นฉบับเกือบ 2 เท่า โซลูชันนี้สามารถนำไปประยุกต์ใช้ในโครงการซอฟต์แวร์เพื่อเพิ่มความปลอดภัยตั้งแต่ขั้นตอนการพัฒนา และสามารถนำไปประยุกต์ใช้กับองค์กรพัฒนาซอฟต์แวร์ โดยเฉพาะองค์กรที่ดำเนินงานในสาขาที่สำคัญ เช่น ความปลอดภัยทางไซเบอร์ การดูแลสุขภาพ หรือการเงิน ซึ่งการตรวจจับช่องโหว่ของซอฟต์แวร์ในระยะเริ่มต้นและแม่นยำเป็นสิ่งสำคัญ
ดร.ซอนกล่าวว่าผลลัพธ์จากโครงการ CodeJIT ช่วยให้ทีมวิจัยเปิดทิศทางการวิจัยใหม่ โดยมุ่งหวังที่จะปรับปรุงคุณภาพของซอฟต์แวร์ที่พัฒนาด้วยการสนับสนุนของโมเดลภาษาขนาดใหญ่ (เช่น ChatGPT, DeepSeek) ทิศทางการวิจัยนี้จะ "เปิดกล่องของปัญญาประดิษฐ์ (AI)" ด้วยการใช้ประโยชน์จากสถานะภายในของโมเดล AI เพื่อพิจารณาการคิดและสัญชาตญาณ และประเมินความน่าเชื่อถือและความปลอดภัยของโค้ดต้นฉบับที่สร้างขึ้นโดยโมเดลภาษาขนาดใหญ่
“เป็นไปไม่ได้เลยที่จะรู้ว่ามนุษย์หรือโปรแกรมเมอร์คิดอย่างไรเมื่อเขียนซอฟต์แวร์ แต่ด้วย AI เราจะเห็นว่ามันคิดอย่างไร มันทำงานอย่างไร มันตรงตามความคาดหวังของมนุษย์หรือไม่ ผลลัพธ์ที่ได้นั้นเชื่อถือได้หรือไม่... จากนั้น เราจึงสามารถตรวจจับและป้องกันข้อผิดพลาดในซอฟต์แวร์ที่ AI สร้างขึ้นระหว่างการทำงานของมันได้ ก่อนที่จะก่อให้เกิดผลที่ไม่พึงประสงค์ในอนาคต” ดร.ซอนกล่าว
“การทำให้ AI เป็นที่นิยม”
ดร.ซอนเล่าถึงทิศทางการวิจัยของเขาว่าเขาและเพื่อนร่วมงานกำลังทำการวิจัยเกี่ยวกับ AI อัตโนมัติโดยมีเป้าหมายเพื่อทำให้กระบวนการพัฒนาโซลูชันที่ใช้ AI เป็นอัตโนมัติ แพลตฟอร์มนี้จะทำให้กระบวนการตั้งแต่การรวบรวมและประมวลผลข้อมูล การทำความสะอาดข้อมูล ไปจนถึงการสร้าง การนำไปใช้ การดำเนินการ และการใช้ประโยชน์จากโมเดล AI เป็นอัตโนมัติ แพลตฟอร์มนี้สามารถทำหน้าที่เป็นผู้เชี่ยวชาญเสมือนจริง ทำให้ผู้คนสร้างโซลูชันที่ใช้ AI ได้ง่ายขึ้น
โดยเฉพาะอย่างยิ่ง ดร.ซอนกล่าวว่าโครงการนี้มุ่งเป้าไปที่เป้าหมายที่ยิ่งใหญ่กว่าในการ "ทำให้ AI เป็นที่นิยม" "เราต้องการให้โครงการนี้นำประโยชน์ของ AI ไปสู่ผู้คนในสังคมมากขึ้น โดยเฉพาะผู้ที่มีความรู้พื้นฐานเกี่ยวกับ AI เพียงเล็กน้อย เช่น วิสาหกิจขนาดกลางและขนาดย่อม ธุรกิจขนาดเล็ก บุคคลทั่วไป... ผู้ที่มีศักยภาพด้าน AI ค่อนข้างจำกัดสามารถใช้ประโยชน์จากข้อมูลและความเชี่ยวชาญของตนเองเพื่อสร้างโซลูชันที่ใช้ AI จากนั้นพวกเขาสามารถทำให้การทำงานของพวกเขาง่ายขึ้น" เขากล่าว
ดร.ซอนกล่าวว่าอุดมคติที่คอยชี้นำเขาตลอดเส้นทางการวิจัยทางวิทยาศาสตร์คือความปรารถนาที่จะมีส่วนสนับสนุนสังคมผ่านเทคโนโลยี “ผมเชื่อว่าวิทยาศาสตร์และเทคโนโลยีไม่ใช่แค่เรื่องของตัวเลข ทฤษฎี หรือบทความเท่านั้น แต่ยังสามารถนำมาซึ่งการเปลี่ยนแปลงเชิงบวกให้กับชีวิตมนุษย์ได้อีกด้วย” ดร.ซอนกล่าว
ด้วยผลงานด้านวิทยาศาสตร์ทำให้ ดร. ซอน มีผลงานอันน่าประทับใจมากมายพร้อมสิทธิบัตรระดับชาติ บทความทางวิทยาศาสตร์ 8 บทความที่ตีพิมพ์ในวารสารวิทยาศาสตร์นานาชาติที่มีชื่อเสียงที่สุดในปัจจุบันอยู่ในประเภท Q1 บทความทางวิทยาศาสตร์ 9 บทความที่ตีพิมพ์ในการประชุมวิทยาศาสตร์นานาชาติที่ได้รับการจัดอันดับ A*
ส่งต่อคบเพลิงสู่คนรุ่นใหม่
เมื่อพูดถึงการเดินทางของเขาในด้านวิทยาศาสตร์และเทคโนโลยี ดร. เหงียน วัน เซิน กล่าวว่า เขาเรียนที่มหาวิทยาลัยเทคโนโลยี (มหาวิทยาลัยแห่งชาติ ฮานอย ) ตั้งแต่ปีที่สอง เขาเริ่มทำการวิจัยด้วยผลิตภัณฑ์ของระบบสนับสนุนการปรับปรุงคุณภาพเอกสาร (Document Quality Improvement Support System - DoiT) โครงการนี้ช่วยให้เขาและทีมวิจัยได้รับรางวัลรองชนะเลิศของ Vietnam Talent Award ประจำปี 2017 รวมถึงนำไปใช้อย่างแพร่หลายในประเทศ
ดร.ซอนกล่าวว่าโครงการนี้ได้รับการนำไปใช้ในมหาวิทยาลัยหลายแห่งเพื่อตรวจสอบวิทยานิพนธ์ ดุษฎีนิพนธ์ วิทยานิพนธ์รับปริญญา ป้องกันการลอกเลียน และปรับปรุงคุณภาพของเอกสาร ซอฟต์แวร์นี้ยังช่วยให้นักศึกษาหลายหมื่นคนนำไปใช้ในการทำโครงการรับปริญญาเพื่อหลีกเลี่ยงการทำซ้ำและให้ได้คุณภาพดีที่สุด
ความสำเร็จของโครงการนี้สร้างรากฐาน เพิ่มความมั่นใจ และแรงบันดาลใจอันแข็งแกร่งให้กับดร.ซอนในการประกอบอาชีพด้านการวิจัยทางวิทยาศาสตร์ หลังจากสำเร็จการศึกษาจากมหาวิทยาลัย เขาตัดสินใจเข้าศึกษาต่อในระดับปริญญาเอกที่มหาวิทยาลัยเท็กซัส (สหรัฐอเมริกา) ที่นี่ แนวทางทางวิทยาศาสตร์ของเขาได้เปลี่ยนไปในทิศทางใหม่ นั่นคือการวิจัยด้านปัญญาประดิษฐ์และวิศวกรรมซอฟต์แวร์ ในเวลาเดียวกัน เขาก็ตัดสินใจเลือกเส้นทางกลับบ้านเกิดเพื่อสร้างสรรค์ผลงานในไม่ช้า
ดังนั้น ทันทีที่เขามาถึงสหรัฐอเมริกา เขาก็เริ่มร่วมมือกับนักวิทยาศาสตร์ในประเทศและนักศึกษาระดับบัณฑิตศึกษาชาวเวียดนามในต่างประเทศอย่างรวดเร็วเพื่อสร้างเครือข่ายนักวิทยาศาสตร์ หลังจากกลับถึงบ้าน ตั้งแต่ปี 2022 เขาและทีมงานมีโครงการวิจัยมากกว่า 20 โครงการที่ตีพิมพ์ในวารสารที่มีชื่อเสียงในประเทศและต่างประเทศ
ดร.ซอนไม่เพียงแต่มีส่วนสนับสนุนด้านวิทยาศาสตร์มากมายเท่านั้น แต่ในฐานะอาจารย์มหาวิทยาลัย ดร.ซอนยังสร้างแรงบันดาลใจให้ลูกศิษย์ของเขาทำการวิจัยทางวิทยาศาสตร์อยู่เสมอ
ที่มา: https://thanhnien.vn/tien-si-tre-thuc-day-ung-dung-ai-vao-doi-song-185250612201810469.htm
การแสดงความคิดเห็น (0)