Dyrektor generalny Anthropic ostrzega przed katastrofą cyberbezpieczeństwa. Światu pozostało zaledwie 12 miesięcy.

Dyrektor generalny Anthropic ostrzega, że ​​świat ma zaledwie 6–12 miesięcy na załatanie dziesiątek tysięcy luk w zabezpieczeniach oprogramowania odkrytych przez model sztucznej inteligencji Mythos, zanim chińska sztuczna inteligencja nadrobi zaległości.

Prezes Anthropic, Dario Amodei, stwierdził, że Mythos – najnowszy model sztucznej inteligencji firmy – wykrył dziesiątki tysięcy luk w zabezpieczeniach krytycznego oprogramowania. Ostrzegł, że rządy , firmy technologiczne i banki mają zaledwie 6-12 miesięcy na naprawienie tych luk, zanim chińska sztuczna inteligencja nadrobi zaległości.

Najnowszy model Anthropic wykrył dziesiątki tysięcy luk w zabezpieczeniach krytycznego oprogramowania. Zdjęcie: Bloomberg

Komentarze te padły 5 maja podczas wydarzenia Anthropic, na którym Amodei wystąpił u boku Jamiego Dimona, dyrektora generalnego JPMorgan Chase, i zapowiedział nowego asystenta opartego na sztucznej inteligencji, którego celem jest automatyzacja zadań finansowych.

„Niebezpieczeństwo tkwi w ogromnym wzroście liczby luk w zabezpieczeniach, naruszeń i strat finansowych spowodowanych przez oprogramowanie wymuszające okup w szkołach, szpitalach, nie wspominając o bankach” – podkreślił Amodei.

Firma Anthropic ograniczyła dostęp do Mythos do kilku wybranych firm partnerskich z powodu obaw o to, co mogliby wykorzystać przestępcy lub wrogie państwa. Chociaż poprzednie aktualizacje modelu firmy spotkały się z dobrym przyjęciem na rynku, to właśnie Mythos wzbudził największe obawy zarówno wśród firm, jak i decydentów.

Skala podatnych na wykorzystanie luk w zabezpieczeniach gwałtownie rosła z każdą generacją Claude'a. Wcześniejszy model Anthropic wykrył około 20 luk w zabezpieczeniach przeglądarki Firefox. Jednak Mythos odkrył prawie 300 luk, a łączna liczba luk w zabezpieczeniach całego oprogramowania sięga obecnie dziesiątek tysięcy.

Większość luk odkrytych przez Mythos nie została opublikowana, ponieważ nie zostały załatane, a gdyby zostały zidentyfikowane, „przestępcy mogliby je wykorzystać”.

Mimo to zarówno Amodei, jak i Dimon wyrazili optymizm – jednak pod pewnymi warunkami.

„To niebezpieczny moment, ale jeśli zareagujemy właściwie, możemy zmierzać ku lepszemu światu po jego drugiej stronie” – powiedział Amodei.

Pan Dimon zauważył również, że choć obawy dotyczące cyberprzestrzeni są całkowicie uzasadnione, zagrożenia dla cyberbezpieczeństwa stwarzane przez sztuczną inteligencję stanowią jedynie „fazę przejściową”.

Odnosząc się do regulacji, Amodei twierdzi, że nadzór nad sztuczną inteligencją powinien być podobny do tego w branży motoryzacyjnej, zapewniając równowagę między bezpieczeństwem konsumentów a umożliwieniem branży utrzymania konkurencyjności.

„Nie można po prostu założyć firmy produkującej samochody, nie zadając sobie pytania: »Czy ten samochód ma hamulce?«. Musimy znaleźć proces, który pozwoli branży działać szybko i uczciwie, a jednocześnie będzie stawiać bariery przed najpoważniejszymi problemami” – argumentował.

(Według CNBC)

Bank skrócił czas przetwarzania oceny kredytowej z 5 dni do pół dnia dzięki sztucznej inteligencji . Sztuczna inteligencja pomogła wietnamskiemu bankowi skrócić czas przetwarzania wniosków kredytowych z 5 dni do około pół dnia, ale zastosowanie tej technologii stwarza poważne wyzwania w zakresie bezpieczeństwa danych i zarządzania zasobami ludzkimi.

Źródło: https://vietnamnet.vn/ceo-anthropic-canh-bao-tham-hoa-an-ninh-mang-the-gioi-chi-con-12-thang-2513150.html