Sam Altman ลาออกจากคณะกรรมการความปลอดภัยของ OpenAI และส่งต่อหน้าที่ให้กับกลุ่มอิสระ

ตามประกาศจากบล็อกอย่างเป็นทางการของ OpenAI คณะกรรมการด้านความปลอดภัยและความมั่นคงจะกลายเป็นกลุ่มกำกับดูแลอิสระภายใต้คณะกรรมการบริหาร Zico Kolter ศาสตราจารย์จากมหาวิทยาลัย Carnegie Mellon จะเป็นประธานคณะกรรมการร่วมกับสมาชิกรายอื่นๆ เช่น Adam D'Angelo ซีอีโอของ Quora, Paul Nakasone พลเอกเกษียณกองทัพบกสหรัฐฯ และ Nicole Seligman อดีตรองประธานบริหารบริษัท Sony สมาชิกทั้งหมดเหล่านี้เป็นสมาชิกคณะกรรมการบริหารของ OpenAI ในปัจจุบัน

หลังจากที่ Altman ก้าวลงจากตำแหน่ง คณะกรรมการก็ได้ทำการประเมินความปลอดภัยของโมเดล AI ล่าสุดของบริษัท — o1 ทีมงานจะยังคงรับข้อมูลสรุปจากทีมงานด้านความปลอดภัยของ OpenAI และสงวนสิทธิ์ในการเลื่อนการเผยแพร่หากข้อกังวลด้านความปลอดภัยไม่ได้รับการแก้ไข

ตามที่ OpenAI ระบุ คณะกรรมการจะรักษาบทบาทที่สำคัญในการกำกับดูแลทางเทคนิคสำหรับโมเดลปัจจุบันและอนาคต รวมถึงการติดตามผลหลังจากมีการเผยแพร่โมเดลต่างๆ แล้ว บริษัทมีความมุ่งมั่นที่จะสร้างกระบวนการด้านความปลอดภัยที่มีเกณฑ์การประเมินที่ชัดเจนเพื่อให้แน่ใจว่าโมเดล AI ทุกอันได้รับการใช้งานอย่างปลอดภัย

การตัดสินใจของอัลท์แมนที่จะออกจากคณะกรรมการเกิดขึ้นหลังจากที่วุฒิสมาชิกสหรัฐฯ จำนวน 5 คนส่งจดหมายถึง OpenAI เพื่อขอให้ชี้แจงนโยบายความปลอดภัย ในช่วงปีที่ผ่านมา พนักงานของ OpenAI เกือบครึ่งหนึ่งที่เน้นการวิจัยความเสี่ยงในระยะยาวของ AI ได้ลาออกจากบริษัท อดีตนักวิจัย OpenAI วิพากษ์วิจารณ์ Altman ว่าไม่สนับสนุนการกำกับดูแล AI ที่เข้มงวด แต่กลับสนับสนุนนโยบายที่ส่งเสริมเป้าหมายเชิงพาณิชย์ของบริษัทแทน

เครดิตภาพ: Justin Sullivan / Getty Images

นอกจากนี้ OpenAI ยังได้เพิ่มการใช้จ่ายในการล็อบบี้ รัฐสภา สหรัฐฯ อย่างมาก บริษัทได้จัดงบประมาณไว้ 800,000 ดอลลาร์สำหรับหกเดือนแรกของปี 2024 เมื่อเทียบกับ 260,000 ดอลลาร์สำหรับทั้งปี 2023 นอกจากนี้ อัลท์แมนยังเป็นสมาชิกคณะกรรมการความปลอดภัยและความมั่นคงด้านปัญญาประดิษฐ์ของกระทรวงความมั่นคงแห่งมาตุภูมิ ซึ่งเขามีส่วนร่วมในการเสนอคำแนะนำที่เกี่ยวข้องกับปัญญาประดิษฐ์ในโครงสร้างพื้นฐานที่สำคัญของประเทศ

แม้ว่า Altman จะลาออกจากคณะกรรมการความปลอดภัยและความเป็นส่วนตัวแล้วก็ตาม แต่ก็ดูเหมือนว่าจะมีข้อบ่งชี้เพียงเล็กน้อยว่าคณะกรรมการจะตัดสินใจในลักษณะที่จะขัดขวางเส้นทางเชิงพาณิชย์ของ OpenAI อย่างร้ายแรง ในเดือนพฤษภาคม OpenAI กล่าวว่าจะพยายามแก้ไข "คำวิจารณ์ที่ถูกต้อง" ของงานของตนผ่านคณะกรรมการชุดนี้ แม้ว่า "คำวิจารณ์ที่ถูกต้อง" จะขึ้นอยู่กับมุมมองของผู้ตรวจสอบเป็นส่วนใหญ่

ในบทบรรณาธิการของนิตยสาร The Economist เมื่อเดือนพฤษภาคม อดีตสมาชิกคณะกรรมการ OpenAI สองคน ได้แก่ Helen Toner และ Tasha McCauley แสดงความกังวลเกี่ยวกับความสามารถของบริษัทในการบริหารตัวเอง พวกเขาโต้แย้งว่าในปัจจุบัน OpenAI ไม่สามารถรับผิดชอบต่อแรงกดดันเรื่องผลกำไรได้

ผลกำไรของ OpenAI กำลังกลายเป็นแรงกระตุ้นที่สำคัญเพิ่มมากขึ้น บริษัทกำลังอยู่ในขั้นตอนการระดมทุนมูลค่า 6.5 พันล้านเหรียญสหรัฐฯ ในรอบใหม่ ซึ่งจะทำให้ OpenAI มีมูลค่ามากกว่า 150 พันล้านเหรียญสหรัฐฯ เพื่อดึงดูดนักลงทุน OpenAI อาจพิจารณายกเลิกโครงสร้างองค์กรไม่แสวงหากำไรแบบผสมผสาน ซึ่งออกแบบมาเพื่อจำกัดผลตอบแทนให้กับนักลงทุนเพื่อสนับสนุนเป้าหมายในการพัฒนา AI เพื่อประโยชน์ร่วมกันของมนุษยชาติ

หุ่งเหงียน (ตามรายงานของ TechCrunch)

ที่มา: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html