Sam Altman rời Ủy ban An toàn của OpenAI, nhường quyền cho nhóm độc lập

Theo thông báo từ blog chính thức của OpenAI, Ủy ban An toàn và Bảo mật sẽ trở thành một nhóm giám sát độc lập trực thuộc hội đồng quản trị. Giáo sư Zico Kolter của Đại học Carnegie Mellon sẽ đảm nhiệm vị trí Chủ tịch Ủy ban, bên cạnh các thành viên khác như CEO của Quora Adam D’Angelo, Tướng quân đội Mỹ đã nghỉ hưu Paul Nakasone và cựu Phó Chủ tịch điều hành của Sony, Nicole Seligman. Tất cả các thành viên này hiện đều là thành viên của hội đồng quản trị OpenAI.

Sau khi Altman từ chức, Ủy ban đã hoàn thành đánh giá an toàn mô hình AI mới nhất của công ty – o1. Nhóm sẽ tiếp tục nhận các cuộc họp báo từ đội ngũ an toàn và bảo mật của OpenAI, đồng thời giữ quyền trì hoãn việc phát hành nếu các vấn đề an toàn chưa được giải quyết.

Theo OpenAI, Ủy ban sẽ duy trì vai trò quan trọng trong việc giám sát kỹ thuật cho các mô hình hiện tại và tương lai, cùng với hoạt động theo dõi sau khi các mô hình được ra mắt. Công ty cam kết xây dựng các quy trình an toàn tích hợp với các tiêu chí đánh giá rõ ràng để đảm bảo mọi mô hình AI của họ được ra mắt một cách an toàn.

Quyết định rời khỏi Ủy ban của Altman đến sau khi một nhóm gồm năm thượng nghị sĩ Mỹ gửi thư yêu cầu OpenAI giải thích rõ hơn về các chính sách an toàn của mình. Trong thời gian qua, gần một nửa số nhân viên của OpenAI, từng tập trung vào việc nghiên cứu các rủi ro dài hạn của AI, đã rời bỏ công ty. Các nhà nghiên cứu cũ của OpenAI đã chỉ trích Altman vì không ủng hộ quy định AI chặt chẽ, thay vào đó thiên về các chính sách thúc đẩy mục tiêu thương mại của công ty.

Ngoài ra, OpenAI đã tăng đáng kể chi tiêu cho hoạt động vận động hành lang tại Quốc hội Mỹ. Công ty đã lập ngân sách 800.000 đô la cho sáu tháng đầu năm 2024, so với 260.000 đô la cho cả năm 2023. Altman cũng tham gia Ban An toàn và Bảo mật Trí tuệ Nhân tạo của Bộ An ninh Nội địa Mỹ, nơi ông đóng góp vào việc đưa ra các khuyến nghị liên quan đến AI trên khắp cơ sở hạ tầng quan trọng của quốc gia này.

Mặc dù Altman đã rời khỏi Ủy ban An toàn và Bảo mật, dường như có ít dấu hiệu cho thấy Ủy ban sẽ đưa ra những quyết định có thể cản trở nghiêm trọng đến lộ trình thương mại của OpenAI. Vào tháng 5, OpenAI tuyên bố sẽ tìm cách giải quyết “những lời chỉ trích hợp lệ” về công việc của mình thông qua ủy ban này, mặc dù “những lời chỉ trích hợp lệ” lại phụ thuộc nhiều vào quan điểm của người đánh giá.

Trong một bài xã luận trên tờ The Economist vào tháng 5, hai cựu thành viên hội đồng quản trị OpenAI là Helen Toner và Tasha McCauley bày tỏ quan ngại về khả năng tự quản của công ty. Họ cho rằng OpenAI hiện tại không thể tự chịu trách nhiệm dưới áp lực của lợi nhuận.

Lợi nhuận của OpenAI đang trở thành một động lực ngày càng lớn. Công ty đang trong quá trình huy động 6,5 tỷ đô la trong vòng gọi vốn mới, định giá OpenAI ở mức hơn 150 tỷ đô la. Để thu hút các nhà đầu tư, OpenAI có thể xem xét từ bỏ cấu trúc phi lợi nhuận lai của mình, vốn được thiết kế nhằm hạn chế lợi nhuận cho nhà đầu tư để đảm bảo mục tiêu phát triển AI vì lợi ích chung của nhân loại.

Hùng Nguyễn (Theo TechCrunch)