ธุรกิจต่างๆ สามารถทำอะไรได้บ้างเพื่อหลีกเลี่ยงการถูก "ยุยงให้ต่อต้าน" โดยตัวแทน AI?

DNVN - ปัญญาประดิษฐ์ (AI) กำลังพัฒนาจากแบบจำลองภาษาอย่างง่าย (LLM) ที่รู้เพียงแค่การ "สนทนา" ไปสู่ตัวแทน AI หรือ "ผู้ช่วยดิจิทัล" ที่สามารถทำงานที่ซับซ้อนได้โดยอัตโนมัติ และมีศักยภาพที่จะกลายเป็นกำลังสำคัญในโลกดิจิทัลในอนาคต อย่างไรก็ตาม การมอบอำนาจให้ AI ดำเนินการนั้นกำลังเปิดช่องโหว่ความเสี่ยงด้านการโจมตีใหม่ๆ มากมาย ซึ่งคุกคามความปลอดภัยของข้อมูลของธุรกิจต่างๆ

ในการประชุม Security Summit 2026 ที่จัดขึ้นเมื่อวันที่ 22 พฤษภาคม นาย Mai Xuan Cuong ผู้อำนวยการศูนย์บริการความปลอดภัยข้อมูล บริษัท Viettel Cyber ​​​​Security กล่าวว่า ความแตกต่างที่อันตรายที่สุดระหว่าง AI Agent กับ LLM แบบดั้งเดิม อยู่ที่ความสามารถในการโต้ตอบกับระบบโดยตรง

ในขณะที่ LLM แบบดั้งเดิมรับคำสั่งและส่งคืนข้อความเท่านั้น แต่เอเจนต์ AI มีความสามารถในการเรียกใช้คำสั่งเชลล์ (โต้ตอบกับระบบปฏิบัติการผ่านทางบรรทัดคำสั่ง) จัดการระบบไฟล์สำหรับการอ่านและการเขียน ส่งอีเมลโดยอัตโนมัติ เรียกใช้ API และควบคุมเบราว์เซอร์ การอัปเกรดนี้โดยไม่ตั้งใจเปิดโอกาสในการโจมตีที่กว้างขึ้น ซึ่งเกินขอบเขตของแคมเปญบิดเบือนข้อมูลทั่วไป

นายไม ซวน กวง - ผู้อำนวยการศูนย์บริการความปลอดภัยข้อมูล บริษัท เวียตเทล ไซเบอร์ เซคิวรี

ตัวแทน AI กำลังกลายเป็นเป้าหมายใหม่ของอาชญากรไซเบอร์

ตามที่ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์กล่าวไว้ ความสามารถในการ "กระทำ" นี้เองที่ทำให้ AI Agent กลายเป็นเป้าหมายใหม่สำหรับอาชญากรไซเบอร์

หนึ่งในความเสี่ยงที่ใหญ่ที่สุดคือการรั่วไหลของข้อมูลองค์กร เพื่อให้ทำงานได้อย่างมีประสิทธิภาพ ตัวแทน AI มักจะต้องประมวลผลข้อมูลภายในจำนวนมาก เช่น ซอร์สโค้ด เอกสาร และอีเมล หากข้อมูลเหล่านี้ถูกส่งไปยังแพลตฟอร์ม AI บนคลาวด์ของบุคคลที่สาม ความเสี่ยงที่ข้อมูลที่เป็นความลับจะถูกเปิดเผยก็จะเพิ่มขึ้น

มีรายงานกรณีที่พนักงานของ Samsung รั่วไหลซอร์สโค้ดใหม่ผ่านทาง ChatGPT หรือพนักงานของ Meta รั่วไหลข้อมูลโดยไม่ได้ตั้งใจจากการทำตามคำสั่งของ AI ภายในองค์กร

นอกจากความเสี่ยงเรื่องข้อมูลรั่วไหลแล้ว ผู้เชี่ยวชาญยังเตือนถึง "การแทรกคำสั่งทางอ้อม" อีกด้วย แฮกเกอร์สามารถฝังคำสั่งที่เป็นอันตรายลงในอีเมล เว็บไซต์ หรือเอกสาร เพื่อหลอกให้ระบบ AI ทำงานโดยไม่ตั้งใจ เช่น การเข้าถึงข้อมูลภายใน หรือส่งข้อมูลไปยังแฮกเกอร์

มีกรณีหนึ่งที่ผู้โจมตีซ่อนรหัสมอร์สไว้ในข้อความเพื่อหลีกเลี่ยงระบบ ทำให้ Grok-Bankrbot ซึ่งเป็นตัวแทนซื้อขายสกุลเงินดิจิทัล สามารถโอนเงินโดยไม่ได้รับอนุญาต ส่งผลให้สูญเสียเงินไป 150,000 ดอลลาร์สหรัฐ

ความเสี่ยงอีกประการหนึ่งมาจากระบบนิเวศของส่วนเสริมสำหรับเอเจนต์ AI พนักงานจำนวนมากในองค์กรติดตั้งส่วนเสริมจากชุมชนเพื่อขยายฟังก์ชันการทำงานของ AI แต่แฮกเกอร์สามารถใช้ช่องทางนี้ในการแพร่กระจายมัลแวร์ได้ เมื่อได้รับสิทธิ์ในการเข้าถึงระบบแล้ว ปลั๊กอินปลอมเหล่านี้สามารถขโมยข้อมูล โทเค็น หรือสร้างช่องโหว่บนอุปกรณ์ได้

ตามที่นายเกืองกล่าว แนวโน้ม "ปัญญาประดิษฐ์เงา" (Shadow AI) กำลังเกิดขึ้นเช่นกัน โดยพนักงานติดตั้งโปรแกรม AI บนคอมพิวเตอร์ที่ทำงานของตนเองโดยไม่ต้องผ่านแผนกไอที ซึ่งทำให้ธุรกิจควบคุมการเข้าถึงได้ยากขึ้น และเพิ่มความเสี่ยงต่อการละเมิดความปลอดภัยของระบบ

นอกจากนี้ AI ยังอาจตีความเจตนาของผู้ใช้ผิดพลาด ทำให้เกิดการดำเนินการคำสั่งที่อาจก่อให้เกิดความเสียหายอย่างร้ายแรงต่อธุรกิจได้ ตัวอย่างเช่น ตัวแทน AI อาจดำเนินการผิดพลาดหรือลบข้อมูลสำคัญโดยไม่ตั้งใจ หากได้รับสิทธิ์มากเกินไป

เพื่อลดความเสี่ยง องค์กรต่างๆ ควรสร้างแบบจำลองความปลอดภัยแบบหลายชั้นแทนที่จะพึ่งพาซอฟต์แวร์ป้องกันไวรัสแบบดั้งเดิมเพียงอย่างเดียว และควรพัฒนากลยุทธ์การดำเนินการที่เหมาะสมด้วย

ธุรกิจจำเป็นต้องสร้างแบบจำลองความปลอดภัยแบบหลายชั้น

ขั้นตอนแรกที่ธุรกิจต้องทำคือการตรวจจับภัยคุกคาม ธุรกิจสามารถใช้ข้อมูลจากอุปกรณ์ปลายทางและการรับส่งข้อมูลผ่านเว็บพร็อกซี (เซิร์ฟเวอร์ตัวกลางที่เชื่อมต่ออุปกรณ์กับอินเทอร์เน็ต) เพื่อรวบรวมและระบุภัยคุกคามได้

ขั้นตอนต่อไป เราต้องตั้งค่าเกตเวย์ AI ให้เป็นจุดควบคุมเดียวสำหรับการเข้าถึง AI ทั้งหมด เกตเวย์นี้จะควบคุมการส่งข้อมูลไปยังคลาวด์สาธารณะ

ดังนั้น ธุรกิจต่างๆ จึงจำเป็นต้องนำระบบควบคุมเฉพาะทางเพิ่มเติม (Guardrail) มาใช้กับเกตเวย์ AI และแอปพลิเคชัน AI อื่นๆ เพื่อระบุคำสั่งที่เป็นอันตราย ป้องกันการรั่วไหลของข้อมูล และตรวจจับการเข้าถึงที่ไม่ได้รับอนุญาตหรือการแสวงประโยชน์จากระบบ

ขั้นตอนต่อไปคือการเสริมกำลังให้กับ AI Agent ระบบตรวจสอบที่ปลายทางต้องได้รับการกำหนดค่าให้ติดตาม "พฤติกรรมอัตโนมัติ" ที่ผิดปกติ AI Agent ควรทำงานในสภาพแวดล้อมที่แยกต่างหากโดยมีการเข้าถึงน้อยที่สุดเพื่อจำกัดความเสี่ยงในการแพร่กระจายหากเกิดเหตุการณ์ขึ้น สุดท้าย การตรวจสอบระบบอย่างสม่ำเสมอเป็นสิ่งสำคัญ

นายเกืองกล่าวว่า "การกำกับดูแลความปลอดภัยของ AI ไม่ใช่การติดตั้งเพียงครั้งเดียว แต่เป็นกระบวนการตรวจสอบอย่างต่อเนื่อง"

การจัดการความปลอดภัยของ AI จะกลายเป็นข้อกำหนดที่จำเป็นอย่างยิ่งในช่วงเวลาของการพัฒนา AI อย่างรวดเร็ว หากธุรกิจไม่เตรียมพร้อมที่จะสร้างแบบจำลองความปลอดภัยแบบ Zero Trust และการตรวจสอบอย่างเข้มงวด การมอบอำนาจให้ AI ทำงานก็เหมือนกับการมอบกุญแจระบบให้กับพนักงานที่มีทักษะสูง แต่ก็มีความเสี่ยงที่จะถูกแทรกแซงได้ง่าย

สงบ

ที่มา: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445