Cofondatorul OpenAI dezvăluie despre super-IA

Andrej Karpathy, co-fondator al OpenAI. Foto: Dwarkesh Patel .

În timp ce mulți din industria tehnologică cred că inteligența artificială generală (AGI) este pe cale să devină realitate, Andrej Karpathy, un renumit om de știință care a ocupat funcția de director AI la Tesla și cofondator al OpenAI, are o altă opinie. El consideră că drumul către AGI este încă lung și că lumea va avea nevoie de cel puțin încă un deceniu pentru a depăși provocările fundamentale.

„Problemele sunt rezolvabile, deși sunt dificile în acest moment. Cred că va dura aproximativ zece ani pentru a depăși toate limitările actuale”, a spus Karpathy într-o conversație recentă.

Lecție valoroasă

Potrivit domnului Karpathy, dezvoltarea rapidă a modelelor lingvistice mari (LLM) din ultimii ani i-a determinat pe mulți să creadă că a sosit era „agenților IA”, adică a sistemelor cu capacități autonome. Cu toate acestea, fostul șef al departamentului de IA de la Tesla nu este de acord cu această opinie. El consideră că 2025 nu este „anul agentului IA”.

El explică faptul că instrumente precum Claude și Codex demonstrează potențialul de a ajuta oamenii în multe sarcini, dar sunt încă departe de a fi considerați „colegi digitali”.

„În prezent, agenții IA nu sunt suficient de inteligenți, nu folosesc computerele în mod natural și nu au capacitatea de a învăța continuu. Nu le poți spune ceva și să te aștepți să-l țină minte. Le lipsește capacitatea cognitivă, ceea ce împiedică modelele să funcționeze cu adevărat”, a spus Karpathy.

Karpathy a fost directorul departamentului de inteligență artificială al Tesla. Foto: Teslarati .

În cariera sa de 15 ani în domeniul inteligenței artificiale, Karpathy spune că a fost martor la multe momente de cotitură care au schimbat întreaga industrie. A studiat și a lucrat cu Geoffrey Hinton, părintele rețelelor neuronale, la Universitatea din Toronto, pe vremea când deep learning-ul era încă un domeniu de studiu relativ necunoscut. Succesul AlexNet în 2012 a inaugurat o nouă eră pentru inteligența artificială, făcând din rețelele neuronale fundamentul multor aplicații viitoare.

După valul de învățare profundă (deep learning), industria inteligenței artificiale (IA) s-a orientat treptat către construirea de agenți care puteau observa, acționa și învăța din mediul lor. Unul dintre primele experimente a fost învățarea prin consolidare profundă (deep reinforcement learning) pe un joc Atari în jurul anului 2013. Deși considerată revoluționară la vremea respectivă, el consideră că această direcție a fost „o greșeală de sincronizare”.

„Este de înțeles că oamenii vor să experimenteze într-un mediu de joc, unde este ușor de simulat și măsurat. Dar acest lucru nu reflectă lumea reală. Dacă lași doar inteligența artificială să tasteze pe o tastatură, să dea clic pe mouse și să aștepte o recompensă, nu va învăța nimic semnificativ”, a spus el.

Nu e momentul potrivit

În timp ce lucra la OpenAI, Karpathy a lucrat la Project Universe, un efort de a crea un agent controlat cu mouse și tastatură care să poată efectua sarcini din lumea reală. Cu toate acestea, recunoaște că proiectul era „prea devreme”.

„Nu avem încă puterea rețelelor neuronale și nu avem platforma vastă de modelare a limbajului pe care o avem astăzi”, a spus Karpathy.

Karpathy consideră că va dura un deceniu pentru a dezvolta AGI. Foto: Vidhya .

Omul de știință a adăugat că, pentru a dezvolta un agent cu adevărat inteligent, modelele trebuie să aibă o bază solidă în reprezentarea limbajului și cogniție. Karpathy a comparat procesul de pre-antrenament pe date de internet cu o formă de „evoluție negativă”. Cu toate acestea, acest proces ajută inteligența artificială să acumuleze o cantitate imensă de cunoștințe și abilități de raționament de bază.

Totuși, el avertizează că o prea mare dependență de cunoștințele existente ar putea face ca inteligența artificială să fie mai puțin creativă. „Poate că trebuie să găsim o modalitate de a elimina o parte din cunoștințe și de a lăsa la o parte ceea ce numim nucleul cognitiv, partea care reprezintă capacitatea de a gândi, de a rezolva probleme și de a elabora strategii”, a spus Karpathy.

Prin urmare, inteligența artificială intră într-o fază de tranziție. Combinația dintre puterea modelelor lingvistice și capacitatea agenților de a acționa va deschide un nou capitol pentru tehnologie. Cu toate acestea, această cale, potrivit lui Karpathy, nu poate fi numărată doar în ani.

Sursă: https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html