วิจัยและพัฒนาระบบปัญญาประดิษฐ์ที่มีความรับผิดชอบ

กระทรวงวิทยาศาสตร์และเทคโนโลยี ระบุว่า ตามแนวโน้มทั่วโลก ระบบปัญญาประดิษฐ์ได้รับการประเมินว่าจะสร้างประโยชน์มหาศาลแก่ประชาชน สังคม และเศรษฐกิจของเวียดนาม ผ่านการสนับสนุนและแก้ไขปัญหายากๆ ที่ประชาชนและชุมชนกำลังเผชิญอยู่ ควบคู่ไปกับกระบวนการดังกล่าว จำเป็นต้องมีการวิจัยและกำหนดมาตรการเพื่อลดความเสี่ยงในกระบวนการพัฒนาและการใช้ปัญญาประดิษฐ์ รวมถึงการสร้างสมดุลระหว่างปัจจัยทางเศรษฐกิจ จริยธรรม และกฎหมายที่เกี่ยวข้อง ดังนั้น หน่วยงานเฉพาะทางจึงจำเป็นต้องวิจัยและพัฒนามาตรฐานและแนวทางปฏิบัติเพื่อเป็นแนวทาง แม้ว่าจะเป็นกฎระเบียบที่ผ่อนปรนและไม่มีผลผูกพันก็ตาม

ในแนวปฏิบัตินี้ กระทรวง วิทยาศาสตร์ และเทคโนโลยีกำหนดหลักการ 9 ประการในการวิจัยและพัฒนาระบบปัญญาประดิษฐ์ที่มีความรับผิดชอบ

ประการแรก จิตวิญญาณแห่งความร่วมมือและการส่งเสริมนวัตกรรม: นักพัฒนาจำเป็นต้องพิจารณาถึงการเชื่อมต่อและการทำงานร่วมกันระหว่างระบบ AI ของตนกับระบบ AI อื่นๆ โดยพิจารณาถึงความหลากหลายของระบบเพื่อเพิ่มประโยชน์ของระบบ ในขณะเดียวกันก็ปรับปรุงการประสานงานเพื่อควบคุมความเสี่ยง

ประการที่สอง ความโปร่งใส: ระบบปัญญาประดิษฐ์ที่สอดคล้องกับหลักการนี้มักเป็นระบบที่สามารถส่งผลกระทบต่อชีวิต ร่างกาย ความเป็นส่วนตัว หรือทรัพย์สินของผู้ใช้หรือบุคคลที่สามที่เกี่ยวข้อง ในกรณีนี้ นักพัฒนาจำเป็นต้องให้ความสำคัญกับความสามารถในการระบุอินพุตและเอาต์พุตของระบบอย่างชัดเจน รวมถึงความสามารถในการอธิบายที่เกี่ยวข้องโดยพิจารณาจากคุณลักษณะของเทคโนโลยีที่นำไปใช้และวิธีการใช้งาน เพื่อให้เกิดความไว้วางใจต่อสังคม รวมถึงผู้ใช้

ประการที่สาม ความสามารถในการควบคุม: เพื่อประเมินความเสี่ยงที่เกี่ยวข้องกับความสามารถในการควบคุมระบบ ผู้พัฒนาจำเป็นต้องทำการประเมินล่วงหน้าว่าระบบเป็นไปตามข้อกำหนดและมาตรฐานทางเทคนิคที่เกี่ยวข้องหรือไม่ หนึ่งในวิธีการประเมินความเสี่ยงคือการทดสอบในพื้นที่แยกต่างหากพร้อมมาตรการด้านความปลอดภัยก่อนนำไปใช้งานจริง

ประการที่สี่ หลักการด้านความปลอดภัย: ผู้พัฒนาต้องมั่นใจว่าระบบปัญญาประดิษฐ์จะไม่ก่อให้เกิดอันตรายต่อชีวิต ร่างกาย หรือทรัพย์สินของผู้ใช้หรือบุคคลที่สาม รวมถึงผ่านตัวกลางด้วย

5. หลักการด้านความปลอดภัย: นอกเหนือจากการปฏิบัติตามเอกสาร คำแนะนำ และการนำมาตรการรักษาความปลอดภัยข้อมูลตามที่กำหนดแล้ว นักพัฒนายังต้องใส่ใจในประเด็นต่างๆ เช่น ความน่าเชื่อถือและความต้านทานต่อการโจมตีทางกายภาพหรืออุบัติเหตุของระบบ ความลับ ความสมบูรณ์ และความพร้อมใช้งานของข้อมูลที่จำเป็นที่เกี่ยวข้องกับความปลอดภัยของข้อมูลของระบบ...

6. ความเป็นส่วนตัว: นักพัฒนาจำเป็นต้องมั่นใจว่าระบบ AI จะไม่ละเมิดความเป็นส่วนตัวของผู้ใช้หรือบุคคลที่สาม ความเป็นส่วนตัวครอบคลุมถึงความเป็นส่วนตัวเชิงพื้นที่ (ความสบายใจในชีวิตส่วนตัว) ความเป็นส่วนตัวของข้อมูล (ข้อมูลส่วนบุคคล) และการรักษาความลับของการสื่อสาร นักพัฒนาจำเป็นต้องปฏิบัติตามกฎระเบียบและแนวทางปฏิบัติปัจจุบัน โดยสามารถศึกษามาตรฐานและแนวทางปฏิบัติสากลเกี่ยวกับความเป็นส่วนตัวได้

นักพัฒนาซอฟต์แวร์ควรทำการประเมินความเสี่ยงด้านความเป็นส่วนตัวล่วงหน้าและประเมินผลกระทบต่อความเป็นส่วนตัวล่วงหน้า ควรใช้มาตรการที่เหมาะสมกับลักษณะของเทคโนโลยีที่นำมาใช้ตลอดกระบวนการพัฒนาระบบให้มากที่สุดเท่าที่จะทำได้ เพื่อหลีกเลี่ยงการละเมิดความเป็นส่วนตัวเมื่อนำไปใช้งานจริง

ประการที่เจ็ด การเคารพสิทธิมนุษยชนและศักดิ์ศรีความเป็นมนุษย์: ในการพัฒนาระบบปัญญาประดิษฐ์ที่เกี่ยวข้องกับมนุษย์ นักพัฒนาต้องให้ความสำคัญเป็นพิเศษในการเคารพสิทธิมนุษยชนและศักดิ์ศรีความเป็นมนุษย์ของบุคคลที่เกี่ยวข้อง นักพัฒนาควรดำเนินมาตรการเท่าที่เป็นไปได้ โดยขึ้นอยู่กับลักษณะของเทคโนโลยีที่นำมาใช้ เพื่อให้มั่นใจว่าจะไม่มีการเลือกปฏิบัติและความไม่เป็นธรรมอันเนื่องมาจากอคติในข้อมูลระหว่างการฝึกอบรมระบบ

นักพัฒนาจำเป็นต้องใช้มาตรการป้องกันเพื่อให้แน่ใจว่าระบบจะไม่ละเมิดค่านิยมของมนุษย์และจริยธรรมทางสังคมตามหลักการพื้นฐานของเวียดนาม (เช่น ค่านิยมต่างๆ รวมถึงความรักชาติ ความสามัคคี การพึ่งพาตนเอง ความภักดี ความซื่อสัตย์ ความรับผิดชอบ วินัย ความคิดสร้างสรรค์ ฯลฯ)

8. การสนับสนุนผู้ใช้: เพื่อสนับสนุนผู้ใช้ ผู้พัฒนาระบบจำเป็นต้องใส่ใจในประเด็นต่างๆ เช่น การสร้างอินเทอร์เฟซที่พร้อมใช้งานเพื่อให้ข้อมูลที่ทันท่วงทีและเหมาะสมเพื่อช่วยให้ผู้ใช้ตัดสินใจและใช้งานได้สะดวก การดำเนินการตามมาตรการเพื่อทำให้ระบบใช้งานง่ายขึ้นสำหรับผู้คนที่เปราะบางในสังคม (ผู้สูงอายุ ผู้พิการ)...

9. ความรับผิดชอบ: นักพัฒนาจำเป็นต้องรับผิดชอบต่อระบบที่ตนพัฒนาขึ้น เพื่อให้มั่นใจว่าผู้ใช้จะได้รับความไว้วางใจ โดยเฉพาะอย่างยิ่ง นักพัฒนาต้องให้ข้อมูลแก่ผู้ใช้เพื่อช่วยในการเลือกและใช้งานระบบ นอกจากนี้ เพื่อเพิ่มการยอมรับทางสังคมต่อระบบ นักพัฒนาควรดำเนินการเพิ่มเติมดังต่อไปนี้: ให้ข้อมูลและคำอธิบายเกี่ยวกับข้อมูลจำเพาะทางเทคนิคของระบบที่ตนพัฒนาขึ้น อัลกอริทึม กลไกความปลอดภัย ฯลฯ แก่ผู้ใช้ รับฟังความคิดเห็นและพูดคุยกับผู้มีส่วนได้ส่วนเสีย

ที่มา: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html