Świat nie jest gotowy na rozwój sztucznej inteligencji tak inteligentnej jak ludzki mózg.

Według starszego badacza z OpenAI świat nie jest jeszcze gotowy na sztuczną inteligencję ogólną (AGI) ani na moment, w którym sztuczna inteligencja dorówna ludzkiemu mózgowi.

Czy ogólna sztuczna inteligencja stanowi zagrożenie?

Od lat badacze spekulują na temat pojawienia się ogólnej sztucznej inteligencji (AGI), dzięki której systemy sztuczne będą w stanie wykonywać szeroki zakres zadań równie dobrze jak ludzie. Wielu postrzega jej pojawienie się jako egzystencjalne zagrożenie, ponieważ może ona umożliwić komputerom działanie w sposób, którego ludzie nie są w stanie sobie wyobrazić.

Według pana Milesa Brindage’a świat nie jest gotowy na erę sztucznej inteligencji ogólnej (AGI).

Teraz człowiek odpowiedzialny za zapewnienie, że OpenAI, twórca ChatGPT, będzie gotowy na AGI, przyznaje, że ani świat, ani sama firma nie są „gotowi” na kolejny krok. Miles Brundage pełnił funkcję „starszego doradcy OpenAI ds. gotowości AGI”, ale ogłosił swoje odejście w tym tygodniu, gdy firma rozwiązała grupę.

„Ani OpenAI, ani żadne inne pionierskie laboratorium nie jest gotowe (na sztuczną inteligencję ogólną), ani świat. Mówiąc wprost, nie sądzę, aby to było kontrowersyjne stwierdzenie wśród kierownictwa OpenAI, ale raczej pytanie, czy firma i świat są na dobrej drodze, aby być gotowymi we właściwym czasie” – powiedział Brundage, który od sześciu lat pomaga kształtować inicjatywy firmy w zakresie bezpieczeństwa sztucznej inteligencji.

Odejście Brundage'a to kolejne z serii znaczących odejść z zespołów bezpieczeństwa OpenAI. Jan Leike, wybitny badacz, odszedł, mówiąc, że „kultura i procesy bezpieczeństwa zeszły na dalszy plan w obliczu błyszczących produktów”. Współzałożyciel Ilya Sutskever również odszedł, aby założyć własny startup zajmujący się sztuczną inteligencją, koncentrujący się na rozwoju bezpiecznego AGI.

Rozwiązanie grupy „AGI Readiness” przez Brundage'a nastąpiło zaledwie kilka miesięcy po rozwiązaniu przez firmę grupy „Superalignment”, której celem było ograniczanie długoterminowych zagrożeń związanych ze sztuczną inteligencją. Ujawniło to napięcia między pierwotną misją OpenAI a jej ambicjami komercyjnymi.

Presja zysku spycha OpenAI z bezpiecznej ścieżki

Według doniesień, OpenAI stoi w obliczu presji, by w ciągu dwóch lat przekształcić się z organizacji non-profit w firmę nastawioną na zysk – w przeciwnym razie grozi mu utrata finansowania z niedawnej rundy inwestycyjnej o wartości 6,6 miliarda dolarów. To przejście w kierunku komercjalizacji od dawna niepokoi Brundage'a, który wyrażał swoje obawy od 2019 roku, kiedy to OpenAI po raz pierwszy utworzył swój oddział nastawiony na zysk.

Dyrektor generalny OpenAI, Sam Altman, ma „ból głowy” z powodu presji, jakiej firma doświadcza w związku z koniecznością generowania zysków.

Wyjaśniając swoje odejście, Brundage powołał się na coraz większe ograniczenia jego swobody prowadzenia badań i publikowania w tej prestiżowej firmie. Podkreślił potrzebę niezależnego głosu w dyskusjach na temat polityki AI, wolnego od uprzedzeń branżowych i konfliktów interesów. Doradzając kierownictwu OpenAI w zakresie przygotowań wewnętrznych, wierzy, że teraz może mieć większy wpływ na globalne zarządzanie AI spoza organizacji.

Odejścia odzwierciedlają również głębszy podział kulturowy w OpenAI. Wielu badaczy dołączyło do zespołu, aby rozwijać badania nad sztuczną inteligencją, i obecnie znajduje się w środowisku coraz bardziej zorientowanym na produkty. Wewnętrzna alokacja zasobów stała się punktem zapalnym – raporty wskazują, że zespół Leike’a został pozbawiony mocy obliczeniowej do badań nad bezpieczeństwem przed jego rozwiązaniem.

W ostatnich miesiącach OpenAI spotykało się z pytaniami dotyczącymi planów rozwoju sztucznej inteligencji i tego, jak poważnie traktuje bezpieczeństwo. Chociaż ChatGPT powstało jako organizacja non-profit zajmująca się badaniami nad tworzeniem bezpiecznej sztucznej inteligencji, jego sukces przyniósł znaczne inwestycje i presję na wykorzystanie nowej technologii w celach zarobkowych.

Źródło: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm