การใช้ระบบปัญญาประดิษฐ์ (AI) เพื่อสร้างเนื้อหาปลอมที่คุกคามความมั่นคงของชาติเป็นสิ่งต้องห้าม

กฎหมายว่าด้วยปัญญาประดิษฐ์ ซึ่งเพิ่งผ่านการอนุมัติจากสภาแห่งชาติ กำหนดข้อห้ามในการดำเนินงานด้านปัญญาประดิษฐ์ (AI) รวมถึงการใช้ระบบ AI ในการสร้างหรือเผยแพร่เนื้อหาปลอมที่อาจเป็นอันตรายร้ายแรงต่อความมั่นคงของชาติ ความสงบเรียบร้อย และความปลอดภัยทางสังคม

ในช่วงบ่ายของวันที่ 10 ธันวาคม สภาแห่งชาติ ได้ผ่านร่างกฎหมายว่าด้วยปัญญาประดิษฐ์ โดยมีผู้แทนเข้าร่วมประชุม 429 คน ลงคะแนนเห็นชอบ (คิดเป็น 90.7% ของจำนวนผู้แทนสภาแห่งชาติทั้งหมด)

กฎหมายว่าด้วยปัญญาประดิษฐ์ประกอบด้วย 8 บท 35 มาตรา ว่าด้วยการวิจัย พัฒนา จัดหา นำไปใช้ และใช้งานระบบปัญญาประดิษฐ์ สิทธิและหน้าที่ขององค์กรและบุคคลที่เกี่ยวข้อง และการบริหารจัดการกิจกรรมปัญญาประดิษฐ์ของรัฐในเวียดนาม กิจกรรมปัญญาประดิษฐ์ที่ใช้เพื่อการป้องกันประเทศ ความมั่นคง และการเข้ารหัสลับเพียงอย่างเดียว ไม่ได้อยู่ภายใต้ขอบเขตของกฎหมายฉบับนี้

ผลการลงคะแนนเพื่อผ่านร่างกฎหมายปัญญาประดิษฐ์ (ภาพ: ดุย หลิน)

หลักการพื้นฐาน 4 ประการในการดำเนินงานปัญญาประดิษฐ์

ตามกฎหมายที่รัฐสภาเพิ่งผ่านความเห็นชอบ กิจกรรมด้านปัญญาประดิษฐ์ต้องปฏิบัติตามหลักการพื้นฐาน 4 ประการ ได้แก่:

ให้ความสำคัญกับประชาชนเป็นศูนย์กลาง รับรองสิทธิมนุษยชน สิทธิความเป็นส่วนตัว ผลประโยชน์ของชาติ ผลประโยชน์สาธารณะ และความมั่นคงของชาติ ปฏิบัติตามรัฐธรรมนูญและกฎหมาย

ปัญญาประดิษฐ์รับใช้มนุษยชาติ ไม่ใช่เข้ามาแทนที่อำนาจและความรับผิดชอบของมนุษย์ ปัญญาประดิษฐ์ช่วยให้มนุษย์ยังคงควบคุมและแทรกแซงการตัดสินใจและพฤติกรรมทั้งหมดของระบบปัญญาประดิษฐ์ได้ รวมถึงรักษาความปลอดภัยของระบบ ความปลอดภัยของข้อมูล และการรักษาความลับของข้อมูล ตลอดจนความสามารถในการตรวจสอบและติดตามการพัฒนาและการทำงานของระบบ

เพื่อให้มั่นใจถึงความยุติธรรม ความโปร่งใส ความเป็นกลาง การไม่เลือกปฏิบัติ และไม่ก่อให้เกิดอันตรายต่อบุคคลหรือสังคม การยึดมั่นในมาตรฐานทางจริยธรรมและค่านิยมทางวัฒนธรรมของเวียดนาม และการรับผิดชอบต่อการตัดสินใจและผลที่ตามมาของระบบ

ส่งเสริมการพัฒนาปัญญาประดิษฐ์ที่เป็นมิตรต่อสิ่งแวดล้อม ครอบคลุม และยั่งยืน สนับสนุนการพัฒนาและการประยุกต์ใช้เทคโนโลยีปัญญาประดิษฐ์ที่มีประสิทธิภาพด้านพลังงาน ประหยัดทรัพยากร และลดผลกระทบเชิงลบต่อสิ่งแวดล้อม

การจำแนกและจัดการระบบ AI โดยพิจารณาจากความเสี่ยง

กฎหมายปัญญาประดิษฐ์กำหนดการจำแนกและการจัดการระบบปัญญาประดิษฐ์ตามระดับความเสี่ยงสามระดับ ได้แก่ สูง ปานกลาง และต่ำ

ระบบปัญญาประดิษฐ์ที่มีความเสี่ยงสูง คือระบบที่อาจก่อให้เกิดอันตรายอย่างร้ายแรงต่อชีวิต สุขภาพ สิทธิและผลประโยชน์อันชอบธรรมขององค์กรและบุคคล ผลประโยชน์ของชาติ ผลประโยชน์สาธารณะ และความมั่นคงของชาติ

ระบบปัญญาประดิษฐ์ที่มีความเสี่ยงปานกลาง คือระบบที่มีศักยภาพที่จะทำให้ผู้ใช้สับสน มีอิทธิพล หรือถูกชักจูงได้ เนื่องจากผู้ใช้ไม่สามารถแยกแยะได้ว่าสิ่งที่กำลังโต้ตอบด้วยนั้นเป็นระบบปัญญาประดิษฐ์ หรือเนื้อหาที่ระบบนั้นสร้างขึ้น

ระบบปัญญาประดิษฐ์ที่เหลืออยู่ คือระบบที่มีความเสี่ยงต่ำ

การจำแนกประเภทความเสี่ยงของระบบปัญญาประดิษฐ์นั้นพิจารณาจากเกณฑ์ต่างๆ เช่น ระดับผลกระทบต่อสิทธิมนุษยชน ความปลอดภัย และความมั่นคง ขอบเขตการใช้งานของระบบ โดยเฉพาะอย่างยิ่งในด้านที่จำเป็นหรือเกี่ยวข้องโดยตรงกับผลประโยชน์สาธารณะ ขอบเขตของผู้ใช้ และขนาดของอิทธิพลของระบบ

รัฐมนตรี ว่าการกระทรวงวิทยาศาสตร์ และเทคโนโลยี เหงียน มานห์ ฮุง นำเสนอรายงานเกี่ยวกับการยอมรับ การชี้แจง และการแก้ไขร่างกฎหมายก่อนการลงมติในรัฐสภา (ภาพ: ดุย ลินห์)

พฤติกรรมต้องห้ามในการปฏิบัติงานด้านปัญญาประดิษฐ์

กฎหมายปัญญาประดิษฐ์ยังระบุถึงการกระทำที่ต้องห้ามในกิจกรรมด้านปัญญาประดิษฐ์โดยเฉพาะ ดังนี้:

การใช้ประโยชน์หรือแทรกแซงระบบปัญญาประดิษฐ์เพื่อกระทำการผิดกฎหมายและละเมิดสิทธิและผลประโยชน์ที่ชอบด้วยกฎหมายขององค์กรและบุคคล

การพัฒนา จัดหา ใช้งาน หรือใช้ระบบปัญญาประดิษฐ์เพื่อวัตถุประสงค์ดังต่อไปนี้: กระทำการที่กฎหมายห้าม; ใช้บุคคลหรือเหตุการณ์จริงที่ถูกปลอมแปลงหรือจำลองขึ้นเพื่อหลอกลวงหรือบิดเบือนการรับรู้และพฤติกรรมของมนุษย์โดยเจตนาและเป็นระบบ ก่อให้เกิดอันตรายร้ายแรงต่อสิทธิมนุษยชนและผลประโยชน์ที่ชอบด้วยกฎหมาย; แสวงหาประโยชน์จากจุดอ่อนของกลุ่มเปราะบาง รวมถึงเด็ก ผู้สูงอายุ ผู้พิการ ชนกลุ่มน้อยทางชาติพันธุ์ หรือผู้ที่มีความบกพร่องหรือมีข้อจำกัดทางด้านความสามารถทางพลเมือง หรือผู้ที่มีความบกพร่องทางสติปัญญาหรือปัญหาในการควบคุมพฤติกรรม เพื่อทำร้ายตนเองหรือผู้อื่น; สร้างหรือเผยแพร่เนื้อหาปลอมแปลงที่อาจเป็นอันตรายร้ายแรงต่อความมั่นคงของชาติ ความสงบเรียบร้อย และความปลอดภัยทางสังคม

การรวบรวม ประมวลผล หรือใช้ข้อมูลเพื่อพัฒนา ฝึกฝน ทดสอบ หรือใช้งานระบบปัญญาประดิษฐ์โดยฝ่าฝืนกฎหมายว่าด้วยข้อมูล การคุ้มครองข้อมูลส่วนบุคคล ทรัพย์สินทางปัญญา และความปลอดภัยทางไซเบอร์

การขัดขวาง ทำลาย หรือบิดเบือนกลไกของมนุษย์ในการตรวจสอบ แทรกแซง และควบคุมระบบปัญญาประดิษฐ์ตามที่ระบุไว้ในกฎหมายนี้

การปกปิดข้อมูลที่ต้องเปิดเผย เผยแพร่ หรืออธิบาย การลบหรือปลอมแปลงข้อมูล ป้ายกำกับ หรือคำเตือนที่จำเป็นในการปฏิบัติงานด้านปัญญาประดิษฐ์

การแสวงหาประโยชน์จากกิจกรรมการวิจัย การทดสอบ การประเมิน หรือการตรวจสอบที่เกี่ยวข้องกับระบบปัญญาประดิษฐ์ เพื่อกระทำการที่ละเมิดกฎหมาย

วาน โตอัน

ที่มา: https://nhandan.vn/cam-su-dung-he-thong-ai-tao-noi-dung-gia-mao-gay-nguy-hai-an-ninh-quoc-gia-post929261.html