ปัญญาประดิษฐ์: เราต้องเพิ่มความปลอดภัยแทนที่จะมุ่งเน้นแค่การพัฒนาให้แข็งแกร่งยิ่งขึ้น

แทนที่จะมุ่งเน้นแค่การพัฒนา AI ให้แข็งแกร่งขึ้น ผู้เชี่ยวชาญด้าน AI ระดับโลกที่มีอิทธิพลเตือนว่ามนุษย์จำเป็นต้องคิดอย่างเร่งด่วนเกี่ยวกับวิธีการใช้ชีวิตร่วมกับ AI ซึ่งเป็นสิ่งที่ฉลาดกว่าตนเอง และป้องกันไม่ให้ AI เข้ามาควบคุมมนุษย์ได้

การอภิปรายแบบกลุ่มเรื่อง “AI เพื่อมนุษยชาติ: จริยธรรมและความปลอดภัยของ AI ในยุคใหม่” ภายใต้กรอบ งาน สัปดาห์วิทยาศาสตร์และเทคโนโลยี VinFuture 2025 ได้นำนัก วิทยาศาสตร์ นักการเมือง และนักประดิษฐ์มารวมกันเพื่อหารือเกี่ยวกับการพัฒนา AI อย่างมีความรับผิดชอบเพื่อมุ่งสู่คุณค่าของมนุษยธรรม

คิดด่วนถึงการใช้ชีวิตร่วมกับ AI ที่เป็นสิ่งมีชีวิตที่ฉลาดกว่าตัวคุณ

ศาสตราจารย์โทบี้ วอลช์ จากมหาวิทยาลัยนิวเซาท์เวลส์ ประเทศออสเตรเลีย นักวิชาการของสมาคมคอมพิวเตอร์อเมริกัน ได้กล่าวยืนยันในการสัมมนาว่า "ผมเชื่อมั่นอย่างยิ่งว่าการใช้ AI อย่างมีความรับผิดชอบควรเป็นสิ่งที่จำเป็น ปัจจุบันมีแรงจูงใจที่ผิดเพี้ยนมากมาย โดย AI สร้างรายได้มหาศาล และวิธีเดียวที่จะรับประกันพฤติกรรมที่เหมาะสมคือการใช้กฎระเบียบที่เข้มงวด เพื่อให้ผลประโยชน์สาธารณะสมดุลกับผลประโยชน์ทางการค้าอยู่เสมอ"

เขายกตัวอย่างทั่วไปของการตัดสินใจที่สำคัญ เช่น การพิจารณาคดีและการพิพากษาลงโทษในสหรัฐอเมริกา ซึ่งมีการใช้ระบบ AI เพื่อให้คำแนะนำเกี่ยวกับระยะเวลาจำคุกและความเป็นไปได้ที่จะกระทำผิดซ้ำของบุคคล น่าเสียดายที่ระบบนี้ถูกฝึกฝนจากข้อมูลในอดีต และสะท้อนอคติทางเชื้อชาติในอดีตโดยไม่ได้ตั้งใจ ซึ่งนำไปสู่การเลือกปฏิบัติต่อคนผิวดำ

ศาสตราจารย์โทบี้ วอลช์ มหาวิทยาลัยนิวเซาท์เวลส์ ออสเตรเลีย สมาชิกสมาคมคอมพิวเตอร์อเมริกัน

ดังนั้น บริษัทที่ติดตั้งและใช้งานระบบ AI จะต้องรับผิดชอบต่อผลที่ตามมาที่ "เครื่องจักร" เหล่านี้ก่อไว้

ศาสตราจารย์เจฟฟรีย์ ฮินตัน ผู้ชนะรางวัลใหญ่ VF 2024 กังวลว่าปัญญาประดิษฐ์ (AI) กำลังพัฒนาฝีมือขึ้นเรื่อยๆ ในการออกแบบไวรัสอันตราย การโจมตีทางไซเบอร์ และสร้าง วิดีโอ ปลอมเพื่อขัดขวางการเลือกตั้ง ในอีก 20 ปีข้างหน้า ปัญญาประดิษฐ์จะฉลาดกว่าเรา และเราจะไม่รู้ว่าจะป้องกันไม่ให้มันเข้ามาควบคุมมนุษย์ได้อย่างไร

ดังนั้น ศาสตราจารย์ท่านนี้จึงเน้นย้ำว่า “เราต้องคิดอย่างเร่งด่วนถึงวิธีการอยู่ร่วมกับสิ่งมีชีวิตที่ฉลาดกว่าเรา นี่เป็นสถานการณ์ที่มนุษยชาติไม่เคยเผชิญมาก่อน เป็นเรื่องใหม่ และเราจำเป็นต้องทำการวิจัยอย่างมากก่อนที่สิ่งนี้จะเกิดขึ้น”

จำเป็นต้องเพิ่มความร่วมมือระหว่างประเทศเพื่อจำกัดความเสี่ยงด้าน AI

ศาสตราจารย์โยชัว เบนจิโอ ผู้ชนะรางวัลหลัก VinFuture 2024 กล่าวถึงความกังวลนี้ว่า แบบจำลอง AI ความสามารถ และระดับความเป็นอิสระของแบบจำลองยังคงพัฒนาอย่างรวดเร็วและสม่ำเสมอ หากแนวโน้มนี้ยังคงดำเนินต่อไป ระบบ AI อัตโนมัติอาจมีประสิทธิภาพเหนือกว่ามนุษย์ในงานด้านความรู้ความเข้าใจส่วนใหญ่ ภายในเวลาเพียง 5-10 ปี

นี่จะเป็นจุดเปลี่ยนทางประวัติศาสตร์ที่อาจช่วยยกระดับคุณภาพชีวิตของเราได้อย่างมาก แต่หากไม่ได้รับการจัดการอย่างระมัดระวัง ก็อาจก่อให้เกิดความเสี่ยงอย่างใหญ่หลวงต่อประชาธิปไตย เสถียรภาพทางภูมิรัฐศาสตร์ และแม้แต่อนาคตของมนุษยชาติ

“เราต้องยกระดับความปลอดภัยสำหรับปัญญาประดิษฐ์ขั้นสูง แทนที่จะมุ่งเน้นแค่การทำให้ปัญญาประดิษฐ์แข็งแกร่งขึ้น ความปลอดภัยและความไว้วางใจไม่ใช่ปัจจัยรอง แต่เป็นสิ่งจำเป็นในกระบวนการพัฒนาเพื่อประโยชน์ของมนุษยชาติ เราจำเป็นต้องร่วมมือกันทั้งในระดับนโยบายและวิทยาศาสตร์” เขากล่าว

ศาสตราจารย์โยชัว เบนจิโอ - ผู้ชนะรางวัลหลัก VinFuture 2024

นักวิทยาศาสตร์ท่านนี้แนะนำว่า ในแง่ของนโยบาย โลกจำเป็นต้องได้รับความร่วมมือระหว่างประเทศ ในด้านวิทยาศาสตร์ จำเป็นต้องเข้าใจวิธีการออกแบบปัญญาประดิษฐ์ (AI) ให้มีความสามารถที่เหนือกว่าและไม่เป็นอันตรายต่อมนุษย์ รักษาความสามารถในการควบคุมปัญญาประดิษฐ์ให้ทำงานอย่างปลอดภัยแม้ในขณะที่มนุษย์สั่งให้ทำผิด และสร้างอุปสรรคทางเทคนิคและสังคมเพื่อให้มั่นใจว่าปัญญาประดิษฐ์สอดคล้องกับบรรทัดฐาน เจตนา ค่านิยม และผลประโยชน์ของมนุษย์

ดร. วินตัน เกรย์ เซิร์ต (รองประธานและผู้อำนวยการฝ่ายเผยแพร่ศาสนาทางอินเทอร์เน็ตของ Google - ผู้ชนะรางวัลใหญ่ VF ประจำปี 2022) เห็นด้วยว่า เราจำเป็นต้องให้ AI มีความรับผิดชอบ และสร้างห่วงโซ่การควบคุมเพื่อให้รู้ว่าพวกเขาทำอะไร โดยเฉพาะอย่างยิ่งเมื่อเกิดข้อผิดพลาด หลักการหลายประการที่ใช้กับมนุษย์ก็จะนำไปใช้กับตัวแทน AI ในสภาพแวดล้อมออนไลน์ได้เช่นกัน

“เราจำเป็นต้องสร้างบรรทัดฐานใหม่ไปพร้อมๆ กัน โดยการใช้ระบบระบุตัวตนที่แข็งแกร่ง การเข้ารหัสเพื่อรักษาความปลอดภัยข้อมูล การใช้กลไกต่างๆ เพื่อประกันความรับผิดชอบ และการปกป้องตัวตนจากการถูกผู้อื่นขโมยข้อมูล กลายเป็นนิสัยประจำ เราควรใช้เทคโนโลยีเพื่อจำกัดความเสี่ยงตั้งแต่เริ่มต้น และสร้างความชัดเจนว่าใครก็ตามที่ถูกพบว่าเป็นอันตรายต่อชุมชนและสังคมจะต้องเผชิญกับผลที่ตามมาของพฤติกรรมดังกล่าว ซึ่งต้องอาศัยความร่วมมือระหว่างประเทศ” เขากล่าว

เวียดนามจำเป็นต้องมีแนวทางของตัวเองในการสร้างข้อมูล AI

รองศาสตราจารย์ Luu Anh Tuan จากมหาวิทยาลัยเทคโนโลยีนันยาง (สิงคโปร์) และมหาวิทยาลัย VinUni (เวียดนาม) กล่าวว่า ประเทศอื่นๆ มีชุดข้อมูลประมาณ 10 ปี แต่เวียดนามเริ่มต้นจากศูนย์ ดังนั้นเราจึงสามารถสร้างข้อมูลที่ยั่งยืนได้ตั้งแต่เริ่มต้น โดยให้ข้อมูลที่สะอาด มีจริยธรรม และเหมาะสมทางวัฒนธรรมตั้งแต่เริ่มต้น

อย่างไรก็ตาม ความท้าทายที่ใหญ่ที่สุดสำหรับเวียดนามคือความเฉพาะเจาะจงของภาษาเวียดนาม เรามีระบบภาษาถิ่นที่หลากหลาย วัฒนธรรมท้องถิ่นที่อุดมสมบูรณ์ และรูปแบบการเรียกที่ซับซ้อนอย่างยิ่ง แบบจำลองขนาดใหญ่เช่น ChatGPT หรือ Gemini รองรับภาษาเวียดนาม แต่คุณภาพยังไม่ดีเท่าที่ควร เนื่องจากพวกเขาไม่เข้าใจภาษาถิ่น ประเพณี หรือประวัติศาสตร์ของเวียดนาม

เวียดนามจำเป็นต้องสร้างโมเดลธุรกิจแบบเวียดนามของตนเอง นอกจากนี้ เราควรพัฒนาโมเดลโอเพนซอร์สเพื่อให้ธุรกิจขนาดเล็กสามารถนำไปใช้และมีส่วนร่วมได้ “หากเราพึ่งพาโมเดลจากต่างประเทศในรูปแบบของ ‘กล่องดำ’ เพียงอย่างเดียว เราก็จะเป็นแค่ ผู้ใช้ AI ไม่ใช่ นักพัฒนา AI” เขากล่าว

ปัจจุบัน รองศาสตราจารย์ Luu Anh Tuan และคณะ กำลังสร้างข้อมูล AI ของเวียดนาม โดยต้องพิจารณาปัจจัยต่างๆ เช่น ภาษาถิ่น ประวัติศาสตร์ และวัฒนธรรมเป็นหลัก

เขายังกล่าวอีกว่าในต่างประเทศ นักศึกษาได้รับการศึกษาเกี่ยวกับ AI ตั้งแต่เนิ่นๆ เวียดนามเพิ่งเริ่มต้น แต่เราสามารถเร่งรัดให้เร็วขึ้นได้ด้วยการเรียนรู้และปรับตัวให้เหมาะสม

“คนรุ่นใหม่ชาวเวียดนามมีความคล่องตัวสูง พวกเขาเพียงแค่ต้องได้รับการศึกษาอย่างเต็มที่เกี่ยวกับความรับผิดชอบทางดิจิทัล เราควรมีองค์กรที่เป็นหนึ่งเดียวเพื่อยืนยันและสร้างมาตรฐานคุณภาพข้อมูลและมาตรฐานทางจริยธรรม VinUni ยังมีส่วนร่วมในสภาเพื่อสร้างระบบมาตรฐานทางจริยธรรม และจะยังคงมีส่วนร่วมในกระบวนการนี้ต่อไป” เขากล่าว

รองศาสตราจารย์ Luu Anh Tuan มหาวิทยาลัยเทคโนโลยี Nanyang (สิงคโปร์) มหาวิทยาลัย VinUni (เวียดนาม)

เพื่อตอบสนองต่อกลยุทธ์การลงทุนโดยตรงจากต่างประเทศ (FDI) ที่มุ่งหวังให้เวียดนามเป็นผู้นำในภูมิภาคด้าน AI ภายในปี 2573 รองศาสตราจารย์ตวนเชื่อว่าเวียดนามมีทรัพยากรมนุษย์คุณภาพสูง ซึ่งเห็นได้จากความสำเร็จระดับนานาชาติด้านคณิตศาสตร์ ฟิสิกส์ และเคมี หากเรารู้วิธีรวบรวมกำลังพลและมีนโยบายที่เข้มแข็ง เป้าหมายปี 2573 จะสามารถบรรลุผลได้อย่างสมบูรณ์

ศาสตราจารย์โทบี้ วอลช์ เสนอแนะว่าเวียดนามควรลงทุนในบุคลากรและพัฒนาทักษะของบุคลากรอย่างจริงจัง สร้างความมั่นใจว่าพวกเขามีความเข้าใจด้าน AI สนับสนุนผู้ประกอบการ ธุรกิจ และมหาวิทยาลัยด้าน AI แทนที่จะรอให้ประเทศอื่นถ่ายทอดเทคโนโลยีหรือชี้นำเรา เราต้องดำเนินการเชิงรุกและเชี่ยวชาญด้านเทคโนโลยี

นอกจากนี้ เวียดนามจำเป็นต้องระดมแพลตฟอร์มเครือข่ายโซเชียลให้เข้มแข็งเพื่อสร้างสภาพแวดล้อมที่ปลอดภัยสำหรับผู้ใช้ในประเทศ โดยไม่ส่งผลกระทบต่อประชาธิปไตยของประเทศ

ท้าว เล เทียน ลาม

ที่มา: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html