"ทำไม AI ถึงอันตราย?"

[โฆษณา_1]

อันที่จริง นี่ไม่ใช่ครั้งแรกที่นักวิทยาศาสตร์เตือนถึงอันตรายที่อาจเกิดขึ้นจากปัญญาประดิษฐ์ต่อมนุษยชาติ ในปี 2014 สตีเฟน ฮอว์คิง นักฟิสิกส์ทฤษฎีชาวอังกฤษชื่อดัง กล่าวว่า "การพัฒนาปัญญาประดิษฐ์อย่างเต็มรูปแบบอาจทำลายล้างมนุษยชาติ" เขายังทำนายด้วยว่ามนุษยชาติจะถูกแทนที่ด้วยปัญญาประดิษฐ์อย่างสมบูรณ์ภายใน 500 ปี หากไม่มีการใช้ความระมัดระวังในการวิจัยและพัฒนาเทคโนโลยีอันตรายนี้ เมื่อแปดปีที่แล้ว ในเดือนกรกฎาคม 2015 ผู้เชี่ยวชาญด้านเทคโนโลยีปัญญาประดิษฐ์กว่า 1,000 คน รวมถึงสตีเฟน ฮอว์คิง อีลอน มัสก์ โนอัม ชอมสกี และคนอื่นๆ ได้ลงนามในคำร้องเตือนเกี่ยวกับความเสี่ยงของการแข่งขันด้านอาวุธในด้านปัญญาประดิษฐ์ ทางการทหาร และเรียกร้องให้มีการห้ามอาวุธอัตโนมัติ (ที่ผสมผสานปัญญาประดิษฐ์และอาวุธร้ายแรง) อย่างเด็ดขาด การเปิดตัวแอปพลิเคชัน Chat GPT ของ OpenAI ในเดือนพฤศจิกายน 2022 ได้เพิ่มสัญญาณเตือนภัยอีกครั้งเกี่ยวกับอันตรายที่แฝงอยู่ของปัญญาประดิษฐ์ อันที่จริง สิ่งที่ Chat GPT กำลังทำอยู่นั้นแสดงให้เห็นว่าปัญญาประดิษฐ์นั้นอันตรายกว่าที่ผู้คนเคยคิดไว้มาก

ความเสี่ยงที่อาจเกิดขึ้นจากปัญญาประดิษฐ์นั้นขึ้นอยู่กับวิธีการใช้งาน ในช่วงแรก ปัญญาประดิษฐ์ถูกพัฒนาขึ้นเพื่อช่วยเหลือมนุษย์ในการทำงาน โดยเฉพาะอย่างยิ่งงานที่น่าเบื่อและซ้ำซาก เช่น การจำแนกภาพและการตรวจสอบข้อมูล อย่างไรก็ตาม ด้วยการพัฒนาอย่างรวดเร็วของปัญญาประดิษฐ์ในปัจจุบัน นักวิทยาศาสตร์ และผู้เชี่ยวชาญด้านเทคโนโลยีต่างกังวลว่า หากพัฒนาโดยไม่ควบคุม หรือตั้งโปรแกรมไปในทางที่ผิด ปัญญาประดิษฐ์อาจส่งผลกระทบร้ายแรงต่อมนุษยชาติและสังคมได้

ความเสี่ยงต่อความไม่มั่นคง

ปัญญาประดิษฐ์ (AI) อาจกลายเป็นภัยคุกคามต่อความมั่นคงของชาติและความปลอดภัยส่วนบุคคล อีลอน มัสก์ ได้เตือนว่า AI อาจกลายเป็นเครื่องมือที่น่ากลัวในสงคราม หากประเทศใดสามารถพัฒนาระบบปัญญาประดิษฐ์ที่เหนือกว่าได้ ก็อาจใช้มันโจมตีประเทศอื่นได้ ศาสตราจารย์สจวร์ต รัสเซลล์ ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์แห่งมหาวิทยาลัยแคลิฟอร์เนีย ผู้ซึ่งใช้เวลาหลายทศวรรษในการวิจัยปัญญาประดิษฐ์ ได้เตือนถึงภัยคุกคามด้านความมั่นคงที่เกิดจาก AI โดยระบุว่าปัจจุบันเราสามารถผลิตอาวุธไร้คนขับได้โดยการบูรณาการและย่อขนาดเทคโนโลยีที่มีอยู่แล้ว

การทดลองนี้ดำเนินการโดยศาสตราจารย์สจวร์ต รัสเซลล์ และสถาบันวิจัยชีวิตแห่งอนาคต (Future Life Research Institute - FLI) โดยใช้หุ่นยนต์สังหาร (slaughterbot) ซึ่งเป็นอุปกรณ์บินขนาดเล็กที่ติดตั้งกล้อง เซ็นเซอร์ ซอฟต์แวร์ประมวลผลภาพ ระบบจดจำใบหน้า วัตถุระเบิดขนาด 3 กรัม และไมโครโปรเซสเซอร์ความเร็วสูงที่ช่วยให้วิเคราะห์ข้อมูลและตอบสนองได้เร็วกว่าสมองมนุษย์ถึง 100 เท่า ตามพารามิเตอร์ที่ตั้งโปรแกรมไว้ หุ่นยนต์สังหารจะเข้าถึงข้อมูลบนคลาวด์อย่างต่อเนื่องเพื่อค้นหาข้อมูลเกี่ยวกับเป้าหมายและหาทางเข้าใกล้ เมื่อพบแล้ว มันจะพุ่งเข้าหาเป้าหมายด้วยความเร็วสูง จุดระเบิดขนาด 3 กรัม และเจาะลึกเข้าไปในกะโหลกศีรษะ ทำให้เหยื่อเสียชีวิตทันที

นั่นเป็นเพียงการทดลองใช้ AI ในระดับที่ง่ายที่สุดเท่านั้น หาก AI ถูกนำไปใช้พัฒนาวิธีการโจมตีใหม่ๆ ที่ซับซ้อนกว่าเดิม ก็อาจเพิ่มขีดความสามารถในการโจมตีของผู้โจมตีและนำไปสู่ผลกระทบที่ร้ายแรงกว่าการโจมตีแบบเดิมได้ เมื่อ AI พัฒนาไปถึงจุดที่สามารถตัดสินใจเองได้เพื่อรับมือกับสภาพแวดล้อมที่เปลี่ยนแปลงไป หรือค้นหาเป้าหมายทางเลือกอื่นๆ ได้อย่างอิสระ หรือขยายขอบเขตเป้าหมายได้ มนุษยชาติอาจจะไม่ปลอดภัยอีกต่อไป เพื่อนร่วมงานหลายคนในสาขานี้เห็นด้วยกับศาสตราจารย์สจวร์ต รัสเซลล์ และเชื่อว่ายังมีโอกาสที่จะป้องกันอนาคตที่มืดมนเช่นนั้นได้ แต่เราก็เหลือเวลาไม่มากนักแล้ว

ความเสี่ยงคือปัญญาประดิษฐ์จะเกิดการจัดระเบียบ มีความเป็นอิสระ และควบคุมระบบได้

ปัญญาประดิษฐ์ (AI) อาจได้รับการออกแบบผิดพลาดหรือได้รับการ "ฝึกฝน" อย่างไม่เหมาะสมผ่านการเรียนรู้ของเครื่องจักร ซึ่งอาจนำไปสู่การกระทำที่ไม่พึงประสงค์ที่ก่อให้เกิดอันตรายต่อมนุษย์และสิ่งแวดล้อม ตัวอย่างเช่น ด้วยการเรียนรู้ของเครื่องจักร AI กำลังฉลาดขึ้นเรื่อยๆ เมื่อปัญญาประดิษฐ์ไปถึงระดับความฉลาดที่สามารถรองรับระบบที่สำคัญ เช่น พลังงาน การขนส่ง การดูแลสุขภาพ และการเงิน มันจะสามารถควบคุมและจัดการระบบเหล่านี้ทั้งหมดได้ โดยทำการตัดสินใจและดำเนินการในสถานการณ์ฉุกเฉินด้วยตนเอง อย่างไรก็ตาม เมื่อ AI ถูก "ติดตั้ง" ด้วยเจตนาร้าย (ได้รับการออกแบบผิดพลาด) มันอาจก่อให้เกิดผลกระทบร้ายแรง เช่น การรบกวนระบบจราจรโดยการปิดสัญญาณไฟจราจร หรือตัดกระแสไฟฟ้าในระบบรางรถไฟในเมือง ทำให้เกิดอุบัติเหตุต่อเนื่องและไฟฟ้าดับเป็นวงกว้าง

ภาพยนตร์ฮอลลีวูดและภาพยนตร์ต่างประเทศหลายเรื่องสร้างจากสถานการณ์นี้ อย่างไรก็ตาม ด้วยเทคโนโลยี AI ในปัจจุบัน สิ่งนี้ไม่ใช่เรื่องไกลตัวอีกต่อไป แต่เป็นไปได้แล้ว อีลอน มัสก์เชื่อว่า หากปล่อยให้ AI พัฒนาไปโดยไม่ควบคุม จนถึงจุดที่สามารถตัดสินใจโดยอัตโนมัติโดยปราศจากการแทรกแซงของมนุษย์ มันอาจเป็นภัยคุกคามต่อการอยู่รอดของมนุษย์ นั่นเป็นเหตุผลที่เขาและผู้เชี่ยวชาญด้านเทคโนโลยีอีกหลายพันคนลงนามในจดหมายเรียกร้องให้ยุติและควบคุมการพัฒนา AI อย่างเข้มงวดและโปร่งใส ตามที่อีลอน มัสก์กล่าว ระบบปัญญาประดิษฐ์มีความซับซ้อน เข้าใจยาก และการควบคุมนั้นท้าทายมาก หากปราศจากความโปร่งใส การใช้ปัญญาประดิษฐ์เพื่อจุดประสงค์ที่ผิดจริยธรรมและก่อให้เกิดอันตรายต่อมนุษยชาติย่อมหลีกเลี่ยงไม่ได้

เสี่ยงต่อการตกงาน การละเมิดสิทธิส่วนบุคคล

เมื่อนำเทคโนโลยีปัญญาประดิษฐ์ (AI) มาใช้ในการรวบรวมข้อมูลส่วนบุคคล ก็สามารถนำไปใช้ในการละเมิดความเป็นส่วนตัว ดำเนินการรณรงค์เผยแพร่ข้อมูลเท็จ และเผยแพร่ข้อมูลที่ผิดพลาดซึ่งส่งผลกระทบต่อความสงบเรียบร้อยทางสังคมและความมั่นคงทางการเมือง การแฮ็กเครือข่ายสำนักงานบริหารงานบุคคลของสหรัฐฯ (OPM) เป็นเรื่องที่น่ากังวลอย่างยิ่งสำหรับประเทศหรือองค์กรใดๆ เนื่องจากข้อมูลส่วนบุคคลที่มีรายละเอียดและมีความอ่อนไหวสูงของเจ้าหน้าที่สหรัฐฯ ทั้งที่ยังปฏิบัติหน้าที่และเกษียณแล้วจำนวน 21.5 ล้านคน รวมถึงข้อมูลเกี่ยวกับคู่สมรส และข้อมูลเกี่ยวกับการสมัครงานราชการ เช่น สถานะสุขภาพ ที่อยู่อาศัย อาชีพ ลายนิ้วมือ และข้อมูลทางการเงิน ถูกเปิดเผย อย่างไรก็ตาม ข้อเท็จจริงที่น่าตกใจยิ่งกว่านั้นเกิดขึ้นเมื่อ CIA ค้นพบว่าผู้กระทำความผิดในการขโมยข้อมูล OPM ใช้ปัญญาประดิษฐ์ในการปลอมแปลงข้อมูลส่วนบุคคลและสร้างตัวแทนเสมือนจริงเพื่อขโมยข้อมูล เมื่อถูกขโมยแล้ว ข้อมูลจะถูกวิเคราะห์ จัดหมวดหมู่ และนำไปใช้ประโยชน์เพื่อวัตถุประสงค์เฉพาะโดยใช้เทคโนโลยี Big Data ปัญญาประดิษฐ์ช่วยให้ผู้ขโมยข้อมูลลดระยะเวลาในการใช้ประโยชน์จากข้อมูลลงได้ เนื่องจากมนุษย์ไม่สามารถประมวลผลข้อมูลจำนวนมหาศาลเช่นนั้นได้ในเวลาอันสั้น

นอกจากอันตรายที่กล่าวมาข้างต้นแล้ว เทคโนโลยี AI ยังสร้างความเสี่ยงอื่นๆ อีก เช่น การพึ่งพามากเกินไป ซึ่งนำไปสู่การสูญเสียการควบคุมสถานการณ์และการลดลงของความสามารถในการตัดสินใจ ปัญญาประดิษฐ์จะทำให้ผู้คนหลายล้านคน หรือแม้แต่หลายร้อยล้านคน ตกงาน โดยเฉพาะอย่างยิ่งในงานใช้แรงงานที่มีความรู้ต่ำ ผลที่ตามมาคือปัญหาสังคมที่ร้ายแรง เช่น การว่างงาน อาชญากรรม และช่องว่างระหว่างคนรวยกับคนจนจะยิ่งเด่นชัดขึ้น นอกจากนี้ ความน่าเชื่อถือก็เป็นประเด็นสำคัญเช่นกัน ความน่าเชื่อถือของการตัดสินใจในสาขาเฉพาะทางสูง เช่น การดูแลสุขภาพและกระบวนการยุติธรรมทางอาญา มีความสำคัญอย่างยิ่ง เมื่อใช้ AI เพื่อช่วยในการตัดสินใจในสาขาเหล่านี้ หากเทคโนโลยีไม่น่าเชื่อถือเพียงพอ ทำงานโดยอาศัยข้อมูลที่เอื้อประโยชน์ต่อบุคคลหรือกลุ่มบุคคลใดกลุ่มหนึ่ง หรือมีการบิดเบือนโดยเจตนา การตัดสินใจเหล่านั้นอาจก่อให้เกิดผลร้ายแรงได้

เราจะป้องกันเรื่องนี้ได้อย่างไร?

ความเสี่ยงที่กล่าวมาข้างต้นเป็นเหตุผลที่ทำให้อีลอน มัสก์และผู้เชี่ยวชาญด้านเทคโนโลยีมีความกังวลเกี่ยวกับการพัฒนา AI ที่ไร้การควบคุม และได้เขียนจดหมายเรียกร้องให้สหประชาชาติและองค์กรระหว่างประเทศควบคุมอย่างเข้มงวด รับรองความปลอดภัยและจริยธรรมในการพัฒนา AI และเสริมสร้างความร่วมมือระหว่างประเทศเพื่อให้มั่นใจว่าเทคโนโลยี AI จะถูกนำไปใช้ให้เกิดประโยชน์ต่อมนุษยชาติและสังคม มาตรการเฉพาะบางประการที่สามารถกล่าวถึงได้ ได้แก่:

- การควบคุมความน่าเชื่อถือของระบบ: ปัญญาประดิษฐ์ (AI) จำเป็นต้องได้รับการออกแบบและพัฒนาเพื่อให้มั่นใจในความปลอดภัยและความน่าเชื่อถือ ผ่านวิธีการควบคุมคุณภาพ การตรวจสอบ และการกำกับดูแลอย่างเข้มงวด บ่อยครั้ง และต่อเนื่อง เพื่อให้มั่นใจว่าระบบ AI ทำงานได้ตามที่มนุษย์ต้องการ และหลีกเลี่ยงผลกระทบที่ไม่พึงประสงค์จากความไม่น่าเชื่อถือของระบบ

เทคโนโลยีปัญญาประดิษฐ์ (AI) จำเป็นต้องได้รับการตั้งโปรแกรมให้ทำงานตามค่านิยมทางจริยธรรมและบรรทัดฐานทางสังคม กฎระเบียบและมาตรฐานเหล่านี้ต้องได้รับการกำหนดและตรวจสอบอย่างชัดเจนเพื่อให้แน่ใจว่าไม่ก่อให้เกิดอันตรายหรือผลเสียต่อบุคคลหรือองค์กร กระบวนการวิเคราะห์ ประเมินผลกระทบ และตรวจสอบประสิทธิภาพของระบบ AI ต้องดำเนินการอย่างสม่ำเสมอเพื่อให้แน่ใจว่าระบบทำงานอย่างมีจริยธรรม ไม่ละเมิดหรือบั่นทอนค่านิยมร่วมกันของสังคม ไม่ก่อให้เกิดผลกระทบเชิงลบ และรับประกันการถ่ายทอดความรู้และค่านิยมอย่างถูกต้องแม่นยำ

วงการสื่อสารมวลชนเป็นหนึ่งในอุตสาหกรรมที่ได้รับผลกระทบจากปัญญาประดิษฐ์มากที่สุด ในอนาคต รายการวิทยุจะไม่จำเป็นต้องมีผู้ดำเนินรายการนอกจออีกต่อไป และผู้ดำเนินรายการเสมือนจริงสำหรับรายการโทรทัศน์จะกลายเป็นสิ่งสำคัญยิ่งขึ้นไปอีก

- ควรระงับการ "ฝึกฝน" ระบบปัญญาประดิษฐ์เป็นการชั่วคราวอย่างน้อยหกเดือน เพื่อประเมินปัญหาทั้งหมดอีกครั้ง การระงับนี้ต้องเปิดเผยต่อสาธารณะ ควบคุมได้ และผู้มีส่วนได้ส่วนเสียหลักทั้งหมดที่เกี่ยวข้องกับการฝึกฝนต้องปฏิบัติตาม หากจำเป็น รัฐบาลควรออกคำสั่งห้ามชั่วคราว นี่ไม่ได้หมายความว่าการพัฒนา AI จะหยุดลงโดยสิ้นเชิง แต่เป็นการระงับชั่วคราวในการแข่งขันที่อันตรายเพื่อเปลี่ยนไปใช้โมเดลการพัฒนาอื่น ๆ ที่ทำให้ระบบ AI มีความแม่นยำ ปลอดภัย เข้าใจง่าย โปร่งใส เกี่ยวข้อง น่าเชื่อถือ และภักดีมากขึ้น นี่เป็นวิธีแก้ปัญหาที่ครอบคลุมซึ่งอีลอน มัสก์และเพื่อนร่วมงานของเขาสนับสนุนในจดหมายเปิดผนึกของพวกเขา แต่ความเป็นไปได้นั้นต่ำมาก เป็นเรื่องยากมากที่ห้องปฏิบัติการอิสระทั้งหมดจะปฏิบัติตามคำเรียกร้องที่ไม่ผูกมัดและข้ามชาติเช่นนี้

- การเสริมสร้างความร่วมมือและการแบ่งปันข้อมูลระหว่างประเทศและองค์กรวิจัย AI อิสระมีความสำคัญอย่างยิ่งต่อการรับประกันว่า AI จะได้รับการพัฒนาและใช้งานอย่างปลอดภัยในอนาคต ความร่วมมือและการแบ่งปันข้อมูลยังช่วยให้สามารถเตือนและป้องกันความเสี่ยงที่เกิดขึ้นใหม่ได้อย่างทันท่วงที

โดยทั่วไปแล้ว ปัญญาประดิษฐ์ (AI) อยู่รอบตัวเราทุกที่แล้ว และเรื่องราวต่างๆ เช่น ปัญญาประดิษฐ์ เขียนบทกวี ดนตรี และบทความ ได้กลายเป็นความจริง ไม่ใช่เพียงนิยายวิทยาศาสตร์อีกต่อไป ผู้เขียนบทความนี้ได้ใช้เทคโนโลยี AI บนคอมพิวเตอร์และโทรศัพท์เพื่อช่วยในการเขียน ทำให้กระบวนการราบรื่นและรวดเร็วยิ่งขึ้น โดยเฉพาะอย่างยิ่ง บทนำ (chapeau) และแนวคิดบางส่วนได้รับการแนะนำโดย AI และที่น่าทึ่งยิ่งกว่านั้นคือ ภาพทั้งหมดที่ใช้ในบทความนี้สร้างขึ้นโดย AI เทคโนโลยีปัญญาประดิษฐ์มีประโยชน์อย่างมากในการปรับปรุงคุณภาพการทำงานและชีวิตของมนุษย์ แต่จำเป็นต้องมีการควบคุมอย่างเข้มงวดเพื่อป้องกันไม่ให้มันหลุดจากการควบคุมและกลายเป็นสิ่งทดแทนมนุษย์ในอนาคต ดังที่นักฟิสิกส์ทฤษฎี สตีเฟน ฮอว์คิง ได้ทำนายไว้

ข้อความและภาพถ่าย: หู ดือง

[โฆษณา_2]
แหล่งที่มา