Pravda o tvůrci ChatGPT

Vyšetřování deníku New Yorker, založené na přibližně 200 stranách interních dokumentů a více než 100 rozhovorech, dospělo k závěru, že Sam Altman soustavně lhal a upřednostňoval moc před bezpečností umělé inteligence.

V listopadu 2023 správní rada OpenAI nečekaně odvolala Sama Altmana. Pouhých pět dní poté byl znovu přijat a staré představenstvo okamžitě nahradila skupina blízkých spolupracovníků. Zaměstnanci OpenAI tuto událost nazvali „The Blip“ (Výbuch), inspirovaný událostí ve filmu Marvelu, kde postava zmizí a poté se vrátí, zatímco svět kolem ní prochází hlubokými změnami.

V rozsáhlém vyšetřování deníku The New Yorker, založeném na 200 stranách dříve nepublikovaných interních dokumentů a více než 100 rozhovorech, se ukázalo, že to, co se stalo během oněch pěti dnů, nebyl jen boj o moc. Bylo to vyvrcholení let nahromaděných obav ohledně muže, který ovládal nejmocnější společnost zabývající se umělou inteligencí na světě.

Záznam je lež.

Na podzim roku 2023 rozeslal Ilja Sutskever, hlavní vědecký pracovník společnosti OpenAI, samomazné poznámky třem členům představenstva. Shromáždil přibližně 70 stran zpráv ze Slacku a personálních dokumentů a vyfotografoval je telefonem, aby se vyhnul odhalení na firemních zařízeních. Jedna z poznámek začínala seznamem, v němž tvrdil, že Sam Altman lže.

Dario Amodei, který vedl bezpečnostní divizi OpenAI předtím, než odešel a založil Anthropic, také pečlivě dokumentoval své aktivity po mnoho let. Jeho více než 200stránkový dokument popisuje konkrétní sérii klamavého chování generálního ředitele společnosti. V roce 2019, během jednání o investici od Microsoftu, Amodei poskytl Altmanovi seznam bezpečnostních požadavků.

Sam Altman nesplnil klíčový závazek OpenAI. Foto: Bloomberg .

Když se smlouva chystala k podpisu, objevila se klauzule vylučující nejdůležitější požadavek. Když ho Amodei konfrontoval, Altman existenci klauzule popřel, i když mu ji Amodei nahlas přečetl.

„Problémem OpenAI je Sam,“ napsal Amodei v poznámce.

„Sam má dva rysy, které se u jednoho člověka jen zřídka objevují. Zaprvé, intenzivní touhu potěšit ostatní v každé interakci. Zadruhé, téměř patologickou lhostejnost k potenciálním důsledkům klamání ostatních,“ řekl deníku New Yorker bývalý člen představenstva OpenAI.

Pokud jde o bezpečnost umělé inteligence, což byl klíčový závazek při založení OpenAI, nikdy jí nebyla věnována dostatečná pozornost. V roce 2023 se tento gigant v oblasti umělé inteligence zavázal věnovat 20 % svého výpočetního výkonu svému výzkumnému týmu v oblasti bezpečnosti. Ve skutečnosti tým obdržel pouze 1–2 % a brzy byl rozpuštěn kvůli neslučitelnosti se strategií společnosti.

5 dní chaosu

Altman byl v Las Vegas a sledoval závody Formule 1, když přijal videohovor od představenstva. V tu chvíli Sutskever Altmanovi zavolal a s odůvodněním nedostatečné komunikace řekl, že již není generálním ředitelem OpenAI.

Satya Nadella, generální ředitel společnosti Microsoft, o tom nebyl předem informován. „Byl jsem ohromen. Tuto informaci jsem od nikoho nemohl získat,“ řekl Nadella.

Během několika hodin Altman ve svém sídle v San Franciscu v hodnotě 27 milionů dolarů zřídil to, co nazval „exilovým týmem“. Investor Josh Kushner pozastavil dohodu v hodnotě 86 miliard dolarů a uvedl, že bude dokončena pouze v případě Altmanova návratu. Společnost Microsoft oznámila, že je připravena vytvořit konkurenční iniciativu a najmout zaměstnance, kteří po této události opustili OpenAI.

Sam Altman se po svém propuštění vrátil do OpenAI jako úplně jiný člověk. Foto: Bloomberg .

Dopis s žádostí o Altmanův návrat koloval ve společnosti. Většina zaměstnanců nakonec pohrozila odchodem, takže představenstvo nemělo na výběr. Otřesy byly rychlé a vyústily v to, že Sutskever, Toner a McCauley přišli o svá místa v představenstvu. Altman po soukromých rozhovorech s ním vybral dva nové členy, bývalého prezidenta Harvardu Larryho Summerse a bývalého technického ředitele Facebooku Breta Taylora.

Následné vyšetřování společnosti WilmerHale nepřineslo písemnou zprávu. Zasvěcené osoby listu New Yorker sdělily, že se vyšetřování zaměřilo výhradně na nalezení jasných důkazů o protiprávním jednání a dospělo k závěru, že Sam Altman může ve funkci generálního ředitele pokračovat. „Přezkoumání nedošlo k závěru, že Sam byl člověk s naprostou integritou,“ uvedl zdroj blízký vyšetřování.

Neomezený výkon

Od události The Blip se OpenAI stala jednou z nejhodnotnějších společností na světě a připravuje se na IPO s potenciální hodnotou až 1 bilionu dolarů . Altman je jedním z podnikatelů, které Trumpova administrativa nejvíce upřednostňuje. Doprovází prezidenta na jeho návštěvě britské královské rodiny a sedí naproti Trumpovi na večeři v Bílém domě.

Sam Altman byl za prezidenta Trumpa favorizován. Foto: Bloomberg .

V lednu 2025 stál Altman v Rooseveltově sále a oznamoval projekt Stargate, investiční investici v hodnotě 500 miliard dolarů , jejímž cílem je vybudovat infrastrukturu umělé inteligence po celých Spojených státech s plány na expanzi do Spojených arabských emirátů. Těsně předtím Trump zrušil celý výkonný příkaz Bidenovy administrativy o bezpečnosti umělé inteligence, který Altman pomohl vypracovat a který kdysi chválil jako „dobrý začátek“.

Altmanova cesta odráží matoucí paradox. OpenAI byla založena na neziskovém závazku, který upřednostňoval bezpečnost lidí před příjmy. Podle bývalých lídrů však tento závazek nakonec podlehl komerčním tlakům.

„Zavedl struktury, které by ho teoreticky v budoucnu omezovaly,“ řekl Carroll Wainwright, bývalý výzkumník OpenAI.

Bývalá členka představenstva Sue Yoon nabídla nejvyváženější hodnocení a uvedla, že Altman nebyl žádný intrikánský padouch. Generální ředitel OpenAI byl naopak někdo, kdo byl příliš pohlcen svými vlastními přesvědčeními. „Dělá věci, které by v reálném světě nedávaly smysl,“ řekla Sue Yoon.

Zdroj: https://znews.vn/su-that-ve-con-nguoi-sam-altman-post1641356.html