แซม อัลท์แมนออกจากคณะกรรมการความปลอดภัยของ OpenAI และปล่อยให้เป็นหน้าที่ของกลุ่มอิสระ

ตามประกาศในบล็อกอย่างเป็นทางการของ OpenAI คณะกรรมการความปลอดภัยและความมั่นคงจะกลายเป็นกลุ่มกำกับดูแลอิสระภายใต้คณะกรรมการ ศาสตราจารย์ซิโก โคลเตอร์ จากมหาวิทยาลัยคาร์เนกีเมลลอน จะดำรงตำแหน่งประธานคณะกรรมการ พร้อมด้วยสมาชิกท่านอื่นๆ เช่น อดัม ดีแองเจโล ซีอีโอของ Quora, พลเอกพอล นากาโซเน อดีตนายพลกองทัพบกสหรัฐฯ และนิโคล เซลิกแมน อดีตรองประธานบริหารของโซนี่ ซึ่งสมาชิกทุกท่านปัจจุบันเป็นสมาชิกคณะกรรมการของ OpenAI

หลังจากการลาออกของอัลท์แมน คณะกรรมการได้เสร็จสิ้นการทบทวนความปลอดภัยของโมเดล AI o1 ล่าสุดของบริษัท คณะทำงานจะยังคงได้รับข้อมูลสรุปจากทีมความปลอดภัยและความมั่นคงของ OpenAI ต่อไป และขอสงวนสิทธิ์ในการเลื่อนการเผยแพร่ออกไป หากข้อกังวลด้านความปลอดภัยยังไม่ได้รับการแก้ไข

OpenAI ระบุว่า คณะกรรมการจะยังคงมีบทบาทสำคัญในการกำกับดูแลทางเทคนิคสำหรับโมเดลปัจจุบันและโมเดลในอนาคต ควบคู่ไปกับการติดตามผลหลังการเปิดตัว บริษัทมุ่งมั่นที่จะสร้างกระบวนการด้านความปลอดภัยแบบบูรณาการพร้อมเกณฑ์การประเมินที่ชัดเจน เพื่อให้มั่นใจว่าโมเดล AI ทั้งหมดของบริษัทจะวางจำหน่ายอย่างปลอดภัย

การตัดสินใจลาออกจากคณะกรรมการของอัลท์แมนเกิดขึ้นหลังจากสมาชิกวุฒิสภาสหรัฐฯ ห้าคนได้ส่งจดหมายขอให้ OpenAI ชี้แจงนโยบายความปลอดภัย พนักงานของ OpenAI เกือบครึ่งหนึ่ง ซึ่งมุ่งเน้นการศึกษาความเสี่ยงระยะยาวของ AI ได้ลาออกจากบริษัทในช่วงไม่กี่ปีที่ผ่านมา อดีตนักวิจัยของ OpenAI ได้วิพากษ์วิจารณ์อัลท์แมนที่ไม่สนับสนุนการกำกับดูแล AI ที่เข้มงวด แต่กลับสนับสนุนนโยบายที่ส่งเสริมเป้าหมายเชิงพาณิชย์ของบริษัท

เครดิตภาพ: Justin Sullivan / Getty Images

นอกจากนี้ OpenAI ยังได้เพิ่มงบประมาณในการล็อบบี้ รัฐสภา สหรัฐฯ อย่างมีนัยสำคัญ โดยบริษัทได้จัดสรรงบประมาณไว้ 800,000 ดอลลาร์สหรัฐสำหรับหกเดือนแรกของปี 2024 เทียบกับ 260,000 ดอลลาร์สหรัฐสำหรับทั้งปี 2023 นอกจากนี้ อัลท์แมนยังได้เข้าร่วมคณะกรรมการความปลอดภัยและความมั่นคงด้านปัญญาประดิษฐ์ (AI) ของกระทรวงความมั่นคงแห่งมาตุภูมิสหรัฐฯ โดยเขาได้มีส่วนร่วมในการให้คำแนะนำเกี่ยวกับปัญญาประดิษฐ์ในโครงสร้างพื้นฐานที่สำคัญของประเทศ

แม้ว่าอัลท์แมนจะลาออกจากคณะกรรมการความปลอดภัยและความเป็นส่วนตัวแล้ว แต่ดูเหมือนว่าจะมีสัญญาณน้อยมากที่บ่งชี้ว่าคณะกรรมการจะตัดสินใจที่อาจขัดขวางเส้นทางการค้าของ OpenAI อย่างร้ายแรง ในเดือนพฤษภาคม OpenAI ระบุว่าจะพยายามแก้ไข "คำวิจารณ์ที่สมเหตุสมผล" เกี่ยวกับงานของตนผ่านคณะกรรมการ แม้ว่า "คำวิจารณ์ที่สมเหตุสมผล" ส่วนใหญ่จะเป็นเรื่องส่วนตัวก็ตาม

ในบทบรรณาธิการของ The Economist เมื่อเดือนพฤษภาคม อดีตสมาชิกคณะกรรมการ OpenAI สองคน คือ Helen Toner และ Tasha McCauley แสดงความกังวลเกี่ยวกับความสามารถของบริษัทในการบริหารตัวเอง โดยให้เหตุผลว่าในปัจจุบัน OpenAI ยังไม่สามารถรับผิดชอบต่อตนเองได้ภายใต้แรงกดดันของผลกำไร

ผลกำไรกำลังกลายเป็นปัจจัยขับเคลื่อนที่สำคัญยิ่งขึ้นสำหรับ OpenAI บริษัทกำลังระดมทุน 6.5 พันล้านดอลลาร์สหรัฐจากการระดมทุนรอบใหม่ ซึ่งจะมีมูลค่ามากกว่า 150 พันล้านดอลลาร์สหรัฐ เพื่อดึงดูดนักลงทุน OpenAI อาจพิจารณายกเลิกโครงสร้างองค์กรไม่แสวงหาผลกำไรแบบผสมผสาน ซึ่งออกแบบมาเพื่อจำกัดผลตอบแทนให้กับนักลงทุน เพื่อให้บรรลุเป้าหมายในการพัฒนา AI เพื่อประโยชน์ร่วมกันของมนุษยชาติ

หุ่งเหงียน (ตามรายงานของ TechCrunch)

ที่มา: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html