Ostrzeżenie antropiczne

Firma Anthropic zwróciła się właśnie do największych firm na świecie zajmujących się sztuczną inteligencją z prośbą o tymczasowe wstrzymanie prac nad kolejnym zaawansowanym modelem, ostrzegając, że może on wymknąć się spod kontroli człowieka.

Antropicy wzywają do wstrzymania rozwoju nowych, zaawansowanych systemów sztucznej inteligencji. Zdjęcie: Bloomberg .

W poście na blogu z 4 czerwca firma Anthropic zasugerowała, że ​​spowolnienie lub wstrzymanie rozwoju zaawansowanej sztucznej inteligencji na całym świecie „mogłoby być dobrą rzeczą”. Firma ostrzegła jednak, że jeśli choć jeden podmiot się zatrzyma, konkurencja nadal będzie się rozwijać.

„Uważamy, że świat powinien mieć możliwość spowolnienia lub tymczasowego wstrzymania rozwoju zaawansowanej sztucznej inteligencji, aby struktury społeczne i badania nad bezpieczeństwem sztucznej inteligencji mogły dotrzymać kroku szybkości rozwoju technologicznego” – powiedział Anthropic.

Anthropic najbardziej martwi się scenariuszem „rekurencyjnego samodoskonalenia”, w którym sztuczna inteligencja projektuje, buduje i trenuje kolejną wersję samej siebie bez ingerencji człowieka.

Artykuł, którego współautorami są Jack Clark i Marina Favaro, szefowa wewnętrznego instytutu badawczego Anthropic, ujawnia, że ​​ponad 80% kodu trafiającego do systemów firmy jest obecnie pisane przez Claude'a. Inżynierowie tworzą około osiem razy więcej kodu na kwartał niż przed rokiem 2025.

Może ci się spodobać

Instalacja pirackiego oprogramowania może skutkować karą pieniężną w wysokości do 1 miliarda VND.VTV.vn - Instalacja i korzystanie z pirackiego oprogramowania Windows i Office może skutkować karą pieniężną w wysokości do 1 miliarda VND lub postępowaniem karnym.

Podniesiono alarm w związku z wyciekiem informacji o kontach cyfrowych.Od kampanii dystrybucji złośliwego oprogramowania za pośrednictwem aplikacji do przesyłania wiadomości po masowe naruszenia danych, konta cyfrowe stają się głównym celem cyberprzestępców. Wzrost liczby wycieków danych logowania pokazuje realne zagrożenie cyberzagrożenia zarówno dla użytkowników indywidualnych, jak i organizacji/firm.

Platformy AI wspierające służbę publiczną są oceniane według nowego zestawu kryteriów.VTV.vn - Kryteria oceny uwzględniają wymagania dotyczące danych, bezpieczeństwa, modeli sztucznej inteligencji w języku wietnamskim i możliwości wsparcia biznesowego.

To nie jest tylko teoretyczne ostrzeżenie. Firma stojąca za chatbotem Claude argumentuje, że przy wystarczającej mocy obliczeniowej i obecnym tempie rozwoju, system sztucznej inteligencji mógłby zaprojektować i opracować swojego następcę. Ten kamień milowy przyniósłby znaczące korzyści nauce i medycynie , ale jednocześnie zwiększyłby ryzyko wymknięcia się sytuacji spod ludzkiej kontroli.

Aby pauza była naprawdę skuteczna, potrzebny jest konsensus wielu dużych firm z branży sztucznej inteligencji w wielu krajach, zwłaszcza w USA i Chinach. Anthropic zapowiedział, że jego wewnętrzny instytut badawczy zbada tę kwestię z innymi podmiotami i podejmie różne działania, aby pomóc w opracowaniu mechanizmu kompleksowej restrukturyzacji.

Ta wiadomość pojawia się w momencie, gdy Anthropic przygotowuje się do IPO, transakcji, która może wycenić firmę na prawie bilion dolarów . Połączenie ostrzeżeń dotyczących bezpieczeństwa sztucznej inteligencji i ambicji giełdowych tworzy niezwykły paradoks.

To nie pierwszy raz, kiedy czołowy gracz w dziedzinie sztucznej inteligencji (AI) wzywa do wstrzymania prac. W 2023 roku grupa, w tym Elon Musk i liczni badacze AI, podpisali list wzywający do sześciomiesięcznego wstrzymania prac nad AI, ale nie przyniosło to żadnych konkretnych rezultatów.

Może ci się spodobać

Odkrycie międzygwiezdnej komety 3I/ATLAS ujawnia skład chemiczny, którego nigdy wcześniej nie widziano.Astronomowie właśnie odkryli, że międzygwiazdowa kometa 3I/ATLAS posiada chemiczny „odcisk palca”, którego dotychczas nie odnotowano na żadnym innym ciele niebieskim w Układzie Słonecznym.

Galaxy S27 Ultra stoi w obliczu ryzyka „szokującego” wzrostu ceny.Samsung stoi przed trudnym wyborem w przypadku Galaxy S27 Ultra: obniżyć wydajność i stracić pozycję lidera czy być zmuszonym podnieść cenę flagowca.

Kiedy udostępnienie linku do utworu dziennikarskiego jest uznawane za naruszenie praw autorskich?Po południu 24 czerwca Dyrektor Departamentu Radia, Telewizji i Informacji Elektronicznej przekazał informacje na temat przypadków, które mogą skutkować naruszeniem praw autorskich do utworów dziennikarskich.

Źródło: https://znews.vn/anthropic-canh-bao-post1657460.html