ไมโครซอฟท์รับความเสี่ยง

แม้ว่า Microsoft จะมีความโปร่งใสเกี่ยวกับความเสี่ยงที่เกิดจากตัวแทน AI ที่สร้างขึ้นใน Windows 11 แต่ยังคงต้องสร้างความไว้วางใจในการใช้งานเมื่อเทียบกับคู่แข่ง

หน้าจอ Windows 11 ขออนุญาตใช้ AI Agent ภาพ: Windows Latest

ในช่วงไม่กี่สัปดาห์ที่ผ่านมา Microsoft ได้พยายามผสานรวมเอเจนต์ AI เข้ากับ Windows แต่แม้แต่เอกสารของบริษัทเองก็ยอมรับว่าเทคโนโลยีนี้สามารถ “หลอนประสาท” พฤติกรรมที่คาดเดาไม่ได้ และแม้แต่ถูกหลอกโดยการโจมตีที่ไม่เคยมีมาก่อนเมื่อปีที่แล้ว

ในช่วงกลางเดือนตุลาคม Microsoft ได้ประกาศว่ากำลัง "เปลี่ยนพีซี Windows 11 ทุกเครื่องให้กลายเป็นพีซี AI" บริษัทได้เปิดตัวชุดการผสานรวม AI ใหม่ที่จะเปิดใช้งาน "การสนทนา" ซึ่งทำให้คอมพิวเตอร์สามารถมองเห็นสิ่งที่อยู่บนหน้าจอและดำเนินการแทนได้

บูรณาการด้วยความเสี่ยงของคุณเอง

การเคลื่อนไหวล่าสุดนี้มุ่งเป้าไปที่การเปลี่ยนแถบงาน Windows 11 ให้กลายเป็นศูนย์กลาง AI กล่องค้นหาของ Windows 11 จะถูกแทนที่ด้วยอินเทอร์เฟซ “Ask Copilot” ซึ่งช่วยให้คุณโทรหา Copilot ได้ด้วยคลิกเดียวหรือสั่งการ จากนั้น คุณสามารถตรวจสอบเอเจนต์ที่สามารถรันงานเบื้องหลังได้ เหมือนกับที่คุณจัดการแอปทั่วไป

Microsoft ไม่ได้แสร้งทำเป็นว่าเทคโนโลยีนี้ปลอดภัยหรือไร้ข้อผิดพลาด เอกสารอย่างเป็นทางการของบริษัทเตือนว่าเอเจนต์ AI "มีข้อจำกัดในการทำงาน และบางครั้งอาจเกิดอาการประสาทหลอน ก่อให้เกิดผลลัพธ์ที่ไม่พึงประสงค์"

แถบงานหลังจากการรวมตัวแทน AI

หนึ่งในความเสี่ยงที่สำคัญที่สุดที่กล่าวถึงคือ Cross Prompt Injection (XPIA) ซึ่งในกรณีนี้ เอเจนต์ AI จะถูกหลอกด้วยเนื้อหาอันตรายที่ฝังอยู่ในส่วนประกอบของส่วนติดต่อผู้ใช้ (UI) เอกสาร หรือแอปพลิเคชัน เนื้อหาเหล่านี้สามารถลบล้างคำสั่งเดิมและบังคับให้แชทบอทดำเนินการที่เป็นอันตราย เช่น การคัดลอกไฟล์สำคัญหรือการรั่วไหลของข้อมูล

นักวิจัยด้านความปลอดภัยได้เตือนว่าเอเจนต์ AI ที่ใช้ GUI มีความเสี่ยงเป็นพิเศษต่อการโจมตีทางอ้อมประเภทนี้ เนื่องจากมักมีสิทธิ์การใช้งานที่สูงมาก แม้ว่า Microsoft จะเปิดเผยถึงความเสี่ยงเหล่านี้อย่างโปร่งใส แต่ Copilot ก็ถูกวิพากษ์วิจารณ์อย่างหนักเมื่อเร็วๆ นี้เกี่ยวกับความกังวลด้านความเป็นส่วนตัว และไม่น่าจะถูกนำมาใช้งานในทันที

Microsoft อ้างว่าเอเจนต์ทำงานภายใต้บัญชีแยกต่างหาก โดยมีสิทธิ์การใช้งานที่จำกัด และมีบันทึกการป้องกันการปลอมแปลง อย่างไรก็ตาม เอเจนต์ยังคงมีสิทธิ์อ่านและเขียนข้อมูลในตำแหน่งส่วนตัวที่สุดบนพีซีของคุณ เช่น เอกสาร ดาวน์โหลด เดสก์ท็อป วิดีโอ รูปภาพ และเพลง

ความทะเยอทะยานที่จะแทนที่งานทั้งหมดด้วย AI

Agent Workspace คือแกนหลักของวิสัยทัศน์ของ Microsoft เกี่ยวกับระบบปฏิบัติการ Agentic OS ปัจจุบัน Windows 11 สามารถสร้างเซสชันแยกต่างหากสำหรับตัวแทนนี้ ซึ่งรับประกันการทำงานต่างๆ เช่น แก้ไขไฟล์และย้ายเอกสารโดยไม่จำเป็นต้องอาศัยผู้ใช้

ตัวแทนแต่ละคนจะมีบัญชีมาตรฐานของตัวเองบนพีซี ซึ่งคล้ายกับสภาพแวดล้อม Windows แบบขนาน แต่ไม่ได้ส่งผลโดยตรงต่อเซสชันการทำงานหลัก ภายในนั้น แชทบอทจะโต้ตอบกับแอปพลิเคชันต่างๆ ในลักษณะเดียวกับมนุษย์ เช่น การคลิกปุ่มอินเทอร์เฟซ การป้อนข้อความ การเลื่อนหน้าต่าง การลากและวางไฟล์ และการทำงานหลายขั้นตอน

วิธีเปิดใช้งานฟีเจอร์ที่เกี่ยวข้องกับ AI บน Windows 11

Agent Workspace มีหน้าที่ตัดสินใจว่าจะแสดงสิ่งใดให้ตัวแทนเห็น นอกจากนี้ Microsoft ยังใช้ Access Control Lists เพื่อป้องกันไม่ให้บัญชีใช้สิทธิ์เกินขอบเขตอำนาจของตน หากต้องการเปิดใช้งานฟีเจอร์เหล่านี้ ผู้ใช้จำเป็นต้องเปิดใช้งาน Experimental Agentic Features ซึ่งถูกปิดใช้งานไว้ตามค่าเริ่มต้น

สำหรับ Microsoft การผสาน AI เข้ากับพีซีถือเป็นก้าวสำคัญที่ไม่สามารถย้อนกลับได้ท่ามกลางการแข่งขันที่รุนแรง Apple กำลังพัฒนา Apple Intelligence อย่างหนัก โดยเฉพาะอย่างยิ่งเมื่อมีแผนจะใช้ Gemini เวอร์ชันปรับแต่ง นอกจากนี้ Google ยังวางแผนที่จะเข้าสู่ตลาดพีซีด้วย Aluminum OS อีกด้วย

แม้ว่า MacBook ราคาประหยัดรุ่นใหม่ของ Apple ที่มาพร้อม Apple Intelligence เวอร์ชันเต็ม จะถูกพูดถึงอย่างกว้างขวาง แต่ Windows 11 กลับถูกวิพากษ์วิจารณ์ว่าทำงานช้าและประมวลผลได้ช้ากว่า ส่วนฟีเจอร์ AI ก่อนหน้านี้ของ Microsoft อย่าง Recall ก็ถูกวิพากษ์วิจารณ์อย่างหนักเรื่องความปลอดภัยที่ย่ำแย่

ระบบปฏิบัติการ "ตัวแทน" อาจเป็นสิ่งที่หลีกเลี่ยงไม่ได้สำหรับผู้จำหน่ายทุกราย อย่างไรก็ตาม จากข้อมูลของ Window Latest สิ่งสำคัญคือการใช้งานจริง และ Microsoft จะต้องสร้างความไว้วางใจจากผู้ใช้ในเทคโนโลยี AI ของตนกลับคืนมา

ที่มา: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html