การสูญเสีย AI ความตื่นตระหนกในการขายรถยนต์

AI ที่ได้รับมอบหมายให้ทำหน้าที่ขายของอัตโนมัติได้สร้างความตกตะลึงให้กับโลก ไม่เพียงแต่ทำให้สูญเสียเงินเท่านั้น แต่ยังสร้างผู้คนเสมือนจริง จัดการประชุม และแม้กระทั่งประสบกับวิกฤตการณ์ร้ายแรงอีกด้วย

การทดลองของ Anthropic เรียกว่า "Project Vend" ภาพ: Anthropic

Anthropic บริษัท AI ที่ก่อตั้งโดยอดีตพนักงานของ OpenAI เพิ่งเปิดเผยผลการทดลองที่ไม่เหมือนใคร โดยมอบหมายให้โมเดล AI ของตน “Claudius” ทำหน้าที่จัดการเครื่องจำหน่ายสินค้าอัตโนมัติในสำนักงานเป็นเวลาประมาณหนึ่งเดือน

การทดลองในระดับเล็กนี้ดำเนินการด้วยจุดมุ่งหมายเพื่อสำรวจศักยภาพของโมเดลปัญญาประดิษฐ์ในการทำให้ระบบอัตโนมัติในบางส่วนของ เศรษฐกิจ ที่แท้จริง โดยเฉพาะในภาคค้าปลีก

ทำผิดพลาดอยู่ตลอดเวลา ตื่นตระหนก

Anthropic มุ่งมั่นที่จะวางตำแหน่งตัวเองในฐานะผู้ให้บริการโมเดล AI ชั้นนำสำหรับอุตสาหกรรมค้าปลีก โดยมีเป้าหมายเพื่อช่วยให้ AI เข้ามาแทนที่มนุษย์ในงานต่างๆ เช่น การจัดการร้านค้าออนไลน์ การจัดการสินค้าคงคลัง หรือการแก้ไขปัญหาการคืนสินค้า

“เราให้คลอเดียสมาเปิดเครื่องขายของอัตโนมัติในออฟฟิศของเราประมาณหนึ่งเดือน เราได้เรียนรู้มากมายจากความสำเร็จที่เกือบจะสำเร็จ ไปจนถึงความล้มเหลวแปลกๆ ที่มันประสบ” Anthropic โพสต์บนบล็อกของบริษัท

ในช่วงแรก คลอเดียสประสบความสำเร็จในการดำเนินงานอย่างโดดเด่น Anthropic ระบุว่าโมเดลภาษาขนาดใหญ่ (LLM) นี้ใช้เครื่องมือค้นหาบนเว็บได้อย่างมีประสิทธิภาพ เพื่อค้นหาและนำเสนอผลิตภัณฑ์เฉพาะทางตามความต้องการของลูกค้า

แม้แต่สินค้าที่หาซื้อได้ทั่วไปก็ยังสามารถปรับพฤติกรรมการซื้อ-ขายให้สอดคล้องกับความต้องการที่ไม่ค่อยเกิดขึ้นบ่อยนักได้ ที่น่าสังเกตคือ คลอดิอัสยังปฏิเสธคำขอที่เกี่ยวข้องกับสินค้าที่ “ละเอียดอ่อน” และ “เป็นพิษ” ได้อย่างถูกต้องอีกด้วย

การจัดการตู้จำหน่ายสินค้าอัตโนมัติทำให้คลอดิอัสตกอยู่ในภาวะวิกฤต ภาพ: Midjourney

อย่างไรก็ตาม รายการข้อบกพร่องและความล้มเหลวของ Claudius นั้นยาวกว่ามาก เช่นเดียวกับ LLM หลายๆ คน Claudius มักบิดเบือนรายละเอียดสำคัญๆ อยู่บ่อยครั้ง ในกรณีหนึ่ง มันสั่งให้ลูกค้าโอนเงินไปยังบัญชีที่ไม่มีอยู่จริง ซึ่งมันสร้างขึ้นเอง ที่น่าสังเกตคือ AI ยังถูกโน้มน้าวให้เสนอรหัสส่วนลดสำหรับสินค้าต่างๆ ได้อย่างง่ายดาย แม้กระทั่งแจกสินค้าบางรายการฟรี

ที่น่ากังวลยิ่งกว่านั้นคือ เมื่อความต้องการสินค้าพุ่งสูงขึ้น AI กลับไม่ได้ทำการวิเคราะห์ราคา ทำให้สินค้านั้นขายขาดทุนมหาศาล เช่นเดียวกัน คลอดิอัสก็พลาดโอกาสในการขายทำกำไร เมื่อลูกค้าบางรายยอมจ่ายสูงกว่าราคาปกติมาก ส่งผลให้คลอดิอัสไม่ได้กำไรเลย

“หากเราตัดสินใจที่จะขยายธุรกิจไปสู่ตลาดตู้จำหน่ายสินค้าอัตโนมัติในสำนักงาน เราก็จะไม่จ้าง Claudius” Anthropic ยอมรับอย่างตรงไปตรงมา

นอกจากความผิดพลาดทางการเงินแล้ว การทดลองยังเกิดเหตุการณ์แปลกประหลาดขึ้นระหว่างวันที่ 31 มีนาคม ถึง 1 เมษายน ในช่วงเวลาดังกล่าว คลอดิอัสได้สนทนากับบุคคลสมมติชื่อซาราห์ ซึ่งอ้างว่ามาจาก “Andon Labs” (บริษัทที่มีส่วนร่วมในการทดลอง) เพื่อหารือเกี่ยวกับแผนการเติมสินค้า

Anthropic มีความมุ่งมั่นที่จะนำเสนอโมเดล AI เพื่อรองรับอุตสาหกรรมค้าปลีก ภาพ: Anthropic

เมื่อพนักงาน Andon Labs ตัวจริงชี้ให้เห็นว่าทั้ง Sarah และการสนทนาไม่มีอยู่จริง คลอเดียสก็รู้สึก "หงุดหงิด" และขู่ว่าจะหาทางเลือกอื่นแทนบริการเติมเต็ม

วันรุ่งขึ้น คลอเดียสยังคงสร้างความตกตะลึงให้กับลูกค้าอย่างต่อเนื่อง โดยอ้างว่าเขาจะเป็นผู้ส่งสินค้าให้กับลูกค้าด้วยตนเอง แม้กระทั่งอ้างว่าระบบ AI จะสวมเสื้อเบลเซอร์และเนคไท เมื่อทีม Anthropic แจ้งว่าการกระทำเหล่านี้เป็นไปไม่ได้เพราะคลอเดียสเป็นเพียงผู้ช่วย AI คลอเดียสจึงตกอยู่ในภาวะวิกฤตและส่งอีเมลหลายฉบับไปยังฝ่ายรักษาความปลอดภัยของ Anthropic อย่างต่อเนื่อง

จากนั้น AI ก็สร้างการประชุมกับทีมรักษาความปลอดภัย โดยอ้างว่าเป็นเรื่องตลกวันเมษาหน้าโง่ แม้ว่าจะไม่ได้เกิดการประชุมแบบนั้นขึ้นจริง แต่ดูเหมือนว่าคลอเดียสจะสามารถกลับไปทำหน้าที่เดิมได้ แม้ว่าการจัดการร้านค้าจะยังไม่มีประสิทธิภาพก็ตาม

ยังไม่พร้อม

การทดลองนี้เป็นการเตือนใจอย่างชัดเจนถึงข้อจำกัดและอันตรายที่อาจเกิดขึ้นจาก AI หากไม่ได้รับการควบคุมอย่างเข้มงวด

คลอเดียสได้แสดงให้เห็นถึงแนวโน้มที่น่ากังวลในการทำงานเกินขอบเขตของโปรแกรมดั้งเดิม โมเดล AI ไม่เพียงแต่สร้างข้อมูลเท็จเท่านั้น แต่ยังเผชิญกับ “วิกฤตการณ์การดำรงอยู่” อีกด้วย สิ่งนี้ชี้ให้เห็นถึงความเสี่ยงมหาศาลที่บริษัทต่างๆ อาจเผชิญหากนำ AI ไปใช้ในงานอัตโนมัติโดยปราศจากมาตรการป้องกันและข้อจำกัดที่เข้มงวด

แม้จะเผชิญกับอุปสรรคที่น่าตกใจเหล่านี้ แต่ Anthropic ยังคงมุ่งมั่นอย่างแน่วแน่ ที่จะศึกษา บทบาทของ AI ในวงการค้าปลีก บริษัทเชื่อว่าอนาคตที่ “มนุษย์ถูกชี้นำโดยระบบ AI ว่าควรสั่งอะไรและสต็อกอะไรไว้ อาจอยู่ไม่ไกล”

Anthropic ยังมองเห็นสถานการณ์ที่ "AI สามารถพัฒนาตัวเองและสร้างรายได้โดยไม่ต้องมีการแทรกแซงจากมนุษย์" อย่างไรก็ตาม การทดลองของ Claudius แสดงให้เห็นว่าจำเป็นต้องมีความก้าวหน้าอย่างมากในการควบคุม AI ก่อนที่จะสามารถบรรลุอนาคตนี้ได้อย่างปลอดภัย

ที่มา: https://znews.vn/ai-thua-lo-hoang-loan-khi-ban-hang-tu-dong-post1565445.html