Sam Altman părăsește Comitetul de Siguranță al OpenAI, lăsându-l în seama unui grup independent.

Conform anunțului de pe blogul oficial al OpenAI, Comitetul pentru Siguranță și Securitate va deveni un grup de supraveghere independent în cadrul consiliului de administrație. Profesorul Zico Kolter de la Universitatea Carnegie Mellon va prezida Comitetul, alături de alți membri precum CEO-ul Quora, Adam D'Angelo, generalul în retragere al armatei americane, Paul Nakasone, și fosta vicepreședinte executivă a Sony, Nicole Seligman. Toți acești membri sunt în prezent membri ai consiliului de administrație OpenAI.

În urma demisiei lui Altman, comitetul a finalizat analiza siguranței celui mai recent model de inteligență artificială al companiei, o1. Grupul va continua să primească informări de la echipa de siguranță și securitate OpenAI și își rezervă dreptul de a amâna lansarea dacă problemele de siguranță nu sunt abordate.

Conform OpenAI, Comitetul va menține un rol important în asigurarea supravegherii tehnice pentru modelele actuale și viitoare, împreună cu monitorizarea post-lansare. Compania se angajează să construiască procese de siguranță integrate, cu criterii clare de evaluare, pentru a se asigura că toate modelele sale de inteligență artificială sunt lansate în siguranță.

Decizia lui Altman de a părăsi comitetul vine după ce un grup de cinci senatori americani a trimis o scrisoare prin care solicita OpenAI să își clarifice politicile de siguranță. Aproape jumătate din personalul OpenAI, care se concentra pe studierea riscurilor pe termen lung ale inteligenței artificiale, a părăsit compania în ultimii ani. Foști cercetători OpenAI l-au criticat pe Altman pentru că nu a pledat pentru o reglementare strictă a inteligenței artificiale, favorizând în schimb politici care promovează obiectivele comerciale ale companiei.

Credit imagine: Justin Sullivan / Getty Images

În plus, OpenAI și-a mărit semnificativ cheltuielile pentru lobbying pe lângă Congresul SUA. Compania a bugetat 800.000 de dolari pentru primele șase luni ale anului 2024, comparativ cu 260.000 de dolari pentru întregul an 2023. Altman s-a alăturat, de asemenea, Consiliului pentru Siguranța și Securitatea Inteligenței Artificiale din cadrul Departamentului de Securitate Internă al SUA, unde a contribuit la formularea de recomandări legate de IA în infrastructura critică a țării.

Deși Altman a părăsit Comitetul pentru Securitate și Confidențialitate, se pare că există puține semne că acest comitet va lua decizii care ar putea împiedica serios parcursul comercial al OpenAI. În luna mai, OpenAI a declarat că va încerca să abordeze „criticile valide” la adresa activității sale prin intermediul comitetului, deși „criticile valide” sunt în mare măsură subiective.

Într-un editorial din The Economist din luna mai, două foste membre ale consiliului de administrație OpenAI, Helen Toner și Tasha McCauley, și-au exprimat îngrijorarea cu privire la capacitatea companiei de a se autoguverna, argumentând că OpenAI nu este în prezent capabilă să se tragă la răspundere sub presiunea profitului.

Profiturile devin un factor din ce în ce mai important pentru OpenAI. Compania este în curs de a strânge 6,5 miliarde de dolari într-o nouă rundă de finanțare care ar evalua-o la peste 150 de miliarde de dolari. Pentru a atrage investitori, OpenAI ar putea lua în considerare abandonarea structurii sale hibride non-profit, care este concepută pentru a limita randamentele investitorilor pentru a asigura obiectivul dezvoltării inteligenței artificiale pentru binele comun al umanității.

Hung Nguyen (conform TechCrunch)

Sursă: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html