Sam Altman elhagyja az OpenAI Biztonsági Bizottságát, és egy független csoportra bízza a feladatot.

Az OpenAI hivatalos blogján közzétett bejelentés szerint a Biztonsági Bizottság független felügyeleti csoporttá alakul az igazgatótanács irányítása alatt. A bizottság elnöke Zico Kolter, a Carnegie Mellon Egyetem professzora lesz, olyan tagokkal együtt, mint Adam D'Angelo, a Quora vezérigazgatója, Paul Nakasone nyugalmazott amerikai hadseregtábornok és Nicole Seligman, a Sony korábbi ügyvezető alelnöke. Mindezek a tagok jelenleg az OpenAI igazgatótanácsának tagjai.

Altman lemondását követően a bizottság befejezte a vállalat legújabb mesterséges intelligencia modelljének, az o1-nek a biztonsági felülvizsgálatát. A csoport továbbra is tájékoztatást kap az OpenAI biztonsági csapatától, és fenntartja a jogot a közzététel késleltetésére, amennyiben a biztonsági aggályokat nem kezelik.

Az OpenAI szerint a bizottság továbbra is fontos szerepet fog betölteni a jelenlegi és jövőbeli modellek műszaki felügyeletében, valamint a kiadás utáni monitoringban. A vállalat elkötelezett a beépített biztonsági folyamatok kiépítése és a világos értékelési kritériumok alkalmazása mellett annak biztosítása érdekében, hogy minden MI-modellje biztonságosan kerüljön forgalomba.

Altman döntése a bizottságból való távozásról azután született, hogy öt amerikai szenátor levelet küldött az OpenAI-nak, amelyben arra kérték, hogy tisztázza biztonsági politikáját. Az OpenAI munkatársainak közel fele, akik a mesterséges intelligencia hosszú távú kockázatainak tanulmányozására összpontosítottak, az elmúlt években távozott a vállalattól. Az OpenAI korábbi kutatói bírálták az Altmant, amiért nem szorgalmazza a mesterséges intelligencia szigorú szabályozását, ehelyett olyan politikákat részesít előnyben, amelyek a vállalat kereskedelmi céljait szolgálják.

Kép forrása: Justin Sullivan / Getty Images

Emellett az OpenAI jelentősen megnövelte az amerikai kongresszus lobbizási költségeit. A vállalat 800 000 dollárt tervezett 2024 első hat hónapjára, szemben a 2023-as egész évre vonatkozó 260 000 dollárral. Altman csatlakozott az Egyesült Államok Belbiztonsági Minisztériumának Mesterséges Intelligencia Biztonsági Tanácsához is, ahol hozzájárult az ország kritikus infrastruktúrájára vonatkozó mesterséges intelligenciával kapcsolatos ajánlások kidolgozásához.

Bár Altman kilépett a Biztonsági és Adatvédelmi Bizottságból, úgy tűnik, kevés jel utal arra, hogy a bizottság olyan döntéseket hozna, amelyek komolyan akadályozhatnák az OpenAI kereskedelmi útját. Májusban az OpenAI kijelentette, hogy a bizottságon keresztül igyekszik majd kezelni a munkájával kapcsolatos „érvényes kritikákat”, bár az „érvényes kritikák” nagyrészt szubjektívek.

A The Economist májusi vezércikkében két korábbi OpenAI igazgatósági tag, Helen Toner és Tasha McCauley aggodalmát fejezte ki a vállalat önirányítási képességével kapcsolatban, azzal érvelve, hogy az OpenAI jelenleg nem képes felelősségre vonni magát a profitnyomás alatt.

A profit egyre fontosabb mozgatórugójává válik az OpenAI számára. A vállalat jelenleg 6,5 milliárd dollárt gyűjt egy új finanszírozási körben, amely több mint 150 milliárd dolláros értéket képviselne. A befektetők vonzása érdekében az OpenAI fontolóra veheti hibrid nonprofit struktúrájának feladását, amelynek célja a befektetők hozamának korlátozása az emberiség közjóját szolgáló mesterséges intelligencia fejlesztésének céljának biztosítása érdekében.

Hung Nguyen (a TechCrunch szerint)

Forrás: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html