คุณเข้าใจเรื่อง AI ดีแค่ไหน? นี่คือ 7 คำศัพท์ที่คุณควรรู้

การพัฒนาอย่างรวดเร็วของปัญญาประดิษฐ์ (AI) ทำให้เกิดความกังวลว่ามันกำลังพัฒนาเร็วกว่าที่มนุษย์จะเข้าใจผลกระทบของมันได้

ภาพ: ST

การใช้งาน AI โดยทั่วไปเพิ่มขึ้นอย่างมากนับตั้งแต่มีการพัฒนาเครื่องมืออย่าง ChatGPT แม้ว่าเครื่องมือเหล่านี้จะมีประโยชน์มากมาย แต่ก็สามารถถูกนำไปใช้ในทางที่ผิดและก่อให้เกิดอันตรายได้เช่นกัน

เพื่อจัดการกับความเสี่ยงนี้ สหรัฐอเมริกาและประเทศอื่นๆ อีกหลายประเทศได้ทำข้อตกลงกับบริษัทเจ็ดแห่ง ได้แก่ Amazon, Anthropic, Google, Inflection, Meta, Microsoft และ OpenAI เพื่อให้คำมั่นสัญญาว่าจะปฏิบัติตามแนวทางปฏิบัติที่ปลอดภัยในการพัฒนาเทคโนโลยี AI

แถลงการณ์ของทำเนียบขาวมีคำศัพท์เฉพาะที่อาจไม่คุ้นเคยสำหรับคนทั่วไป เช่น คำว่า “red teaming” และ “watermarking” ต่อไปนี้คือคำศัพท์ที่น่าสนใจเจ็ดคำที่เกี่ยวข้องกับ AI

การเรียนรู้ของเครื่อง

สาขาปัญญาประดิษฐ์นี้มีเป้าหมายในการฝึกฝนเครื่องจักรให้ทำงานเฉพาะอย่างได้อย่างแม่นยำโดยการระบุรูปแบบ จากนั้นเครื่องจักรจะสามารถคาดการณ์ได้จากข้อมูลเหล่านั้น

การเรียนรู้เชิงลึก

งานสร้างสรรค์ด้าน AI มักอาศัยการเรียนรู้เชิงลึก ซึ่งเป็นวิธีการฝึกคอมพิวเตอร์ให้ใช้โครงข่ายประสาทเทียม—ชุดอัลกอริธึมที่ออกแบบมาเพื่อเลียนแบบเซลล์ประสาทในสมองของมนุษย์—เพื่อสร้างการเชื่อมต่อที่ซับซ้อนระหว่างรูปแบบต่างๆ เพื่อสร้างข้อความ รูปภาพ หรือเนื้อหาอื่นๆ

เนื่องจากโมเดลการเรียนรู้เชิงลึกมีเซลล์ประสาทหลายชั้น จึงสามารถเรียนรู้รูปแบบที่ซับซ้อนกว่าการเรียนรู้ของเครื่องจักรแบบดั้งเดิมได้

แบบจำลองภาษาขนาดใหญ่

แบบจำลองภาษาขนาดใหญ่ หรือ LLM (Large Language Model) คือแบบจำลองที่ฝึกฝนด้วยข้อมูลจำนวนมหาศาล โดยมีเป้าหมายเพื่อจำลองภาษาหรือทำนายคำถัดไปในลำดับ แบบจำลองภาษาขนาดใหญ่ เช่น ChatGPT และ Google Bard สามารถนำไปใช้กับงานต่างๆ ได้แก่ การสรุป การแปล และการสนทนา

อัลกอริทึม

ชุดคำสั่งหรือกฎเกณฑ์ที่ช่วยให้เครื่องจักรสามารถคาดการณ์ แก้ปัญหา หรือทำงานให้สำเร็จได้ อัลกอริทึมสามารถให้คำแนะนำในการซื้อสินค้า ช่วยตรวจจับการฉ้อโกง รวมถึงฟังก์ชันแชทบริการลูกค้าได้

อคติ

เนื่องจาก AI ถูกฝึกฝนโดยใช้ชุดข้อมูลขนาดใหญ่ จึงอาจทำให้ข้อมูลที่เป็นอันตราย เช่น คำพูดที่แสดงความเกลียดชัง ปะปนเข้ามาได้ นอกจากนี้ การเหยียดเชื้อชาติและการเหยียดเพศก็อาจปรากฏในชุดข้อมูลที่ใช้ในการฝึกฝน AI ทำให้เกิดเนื้อหาที่เข้าใจผิดได้

บริษัทผู้พัฒนา AI ตกลงที่จะทำการวิจัยเพิ่มเติมเกี่ยวกับวิธีการหลีกเลี่ยงอคติและการเลือกปฏิบัติที่เป็นอันตรายในระบบ AI

เรดทีคกิ้ง

หนึ่งในข้อผูกพันที่บริษัทต่างๆ ให้ไว้กับทำเนียบขาวคือการนำ "การทดสอบเจาะระบบ" (red teaming) มาใช้ทั้งภายในและภายนอกแบบจำลองและระบบ AI

"ทีมสีแดง" หมายถึงการทดสอบแบบจำลองเพื่อตรวจจับอันตรายที่อาจเกิดขึ้น คำนี้มีที่มาจากแนวทางปฏิบัติ ทางทหาร ที่ทีมจะจำลองการกระทำของผู้โจมตีเพื่อพัฒนากลยุทธ์

วิธีการนี้ถูกนำมาใช้กันอย่างแพร่หลายในการทดสอบหาช่องโหว่ด้านความปลอดภัยในระบบต่างๆ เช่น แพลตฟอร์มคลาวด์คอมพิวติ้งของบริษัทต่างๆ เช่น ไมโครซอฟต์และกูเกิล

ลายน้ำ

ลายน้ำเป็นวิธีการตรวจสอบว่าวัตถุเสียงหรือภาพนั้นสร้างขึ้นโดยปัญญาประดิษฐ์หรือไม่ ข้อมูลที่ใช้ในการตรวจสอบอาจรวมถึงข้อมูลเกี่ยวกับผู้สร้าง ตลอดจนวิธีการและเวลาที่สร้างหรือแก้ไข

ตัวอย่างเช่น ไมโครซอฟต์ได้ให้คำมั่นว่าจะใส่ลายน้ำลงในภาพที่สร้างขึ้นโดยเครื่องมือ AI ของตน นอกจากนี้ บริษัทต่างๆ ยังได้ให้คำมั่นกับทำเนียบขาวว่าจะเพิ่ม "ลายน้ำ" ลงในภาพหรือบันทึกแหล่งที่มาของภาพ... เพื่อระบุว่าเป็นภาพที่สร้างขึ้นโดย AI

ลายน้ำยังนิยมใช้เพื่อติดตามการละเมิดทรัพย์สินทางปัญญาอีกด้วย ลายน้ำสำหรับภาพที่สร้างโดย AI อาจปรากฏเป็นสัญญาณรบกวนที่มองไม่เห็น เช่น การเปลี่ยนแปลงเล็กน้อยทุกๆ เจ็ดพิกเซล

อย่างไรก็ตาม การสร้างลายน้ำสำหรับข้อความที่สร้างโดย AI อาจมีความซับซ้อนกว่า และอาจต้องปรับรูปแบบคำเพื่อให้สามารถระบุได้ว่าเป็นเนื้อหาที่สร้างโดย AI

ฮวาง ตัน (ตามข้อมูลจากพอยน์เตอร์)

แหล่งที่มา: https://www.congluan.vn/ban-hieu-ai-den-muc-nao-duoi-day-la-7-thuat-ngu-can-biet-post260123.html