Nowa sztuczna inteligencja może zostać wykorzystana do tworzenia broni biologicznej.

Na telefonie widoczny jest interfejs umożliwiający naukę GPT-o1 firmy OpenAI – zdjęcie: FINANCIAL TIMES

Według doniesień Financial Times z 13 września firma OpenAI przyznała, że ​​jej model GPT-o1, wprowadzony na rynek 12 września, „znacznie” zwiększa ryzyko wykorzystania sztucznej inteligencji (AI) do tworzenia broni biologicznej.

Dokumentacja OpenAI wyjaśniająca działanie GPT-o1 potwierdza, że ​​nowy model charakteryzuje się „średnim poziomem ryzyka” w odniesieniu do kwestii związanych z bronią chemiczną, biologiczną, radiologiczną i jądrową. Jest to najwyższy poziom ryzyka, jaki OpenAI kiedykolwiek przypisał swoim modelom sztucznej inteligencji.

Według OpenAI oznacza to, że GPT-o1 może „znacznie poprawić” zdolność ekspertów do wytwarzania broni biologicznej w celu jej nadużycia.

Mira Murati, dyrektor ds. technologii (CTO) w OpenAI, powiedziała, że ​​chociaż GPT-o1 wciąż znajduje się w fazie testów, zaawansowane możliwości tego modelu sprawiają, że firma musi zachować wyjątkową „ostrożność” w kwestii planu udostępnienia go publicznie.

Pani Murati zapewniła również, że model został gruntownie przetestowany przez interdyscyplinarny zespół ekspertów. Osoby te zostały zatrudnione przez OpenAI w celu zbadania ograniczeń modelu opracowanego przez firmę.

Jak wyjaśnił Murati, testy wykazały, że model GPT-o1 spełnia ogólne kryteria bezpieczeństwa znacznie lepiej niż jego poprzednicy.

Przedstawiciele OpenAI zapewnili ponadto, że wersja testowa GPT-o1 jest „bezpieczna do wdrożenia” i nie może stwarzać większego ryzyka niż te, które stwarzają już rozwinięte technologie.

Pomimo tych zapewnień znaczna część społeczności naukowej i entuzjastów sztucznej inteligencji nadal pesymistycznie podchodzi do przyszłości tej technologii.

Rosną obawy, że sztuczna inteligencja rozwija się zbyt szybko, nie nadążając za opracowywaniem i zatwierdzaniem przepisów regulujących tę dziedzinę.

Profesor Yoshua Bengio, specjalista informatyki z Uniwersytetu w Montrealu i jeden z czołowych naukowców zajmujących się sztuczną inteligencją na świecie , stwierdził, że jeśli OpenAI obecnie stwarza „średnie ryzyko” w postaci broni chemicznej i biologicznej, to „tylko wzmacnia to wagę i pilną potrzebę” regulacji, takich jak gorąco dyskutowany projekt ustawy w Kalifornii, który ma regulować tę dziedzinę.

Naukowiec ten podkreślił, że instytucje te są szczególnie potrzebne w kontekście sztucznej inteligencji (AI) zbliżającej się coraz bardziej do poziomu uniwersalnej sztucznej inteligencji (AGI), czyli zdolności rozumowania porównywalnej z człowiekiem.

„Im bardziej pionierskie modele sztucznej inteligencji (AI) zbliżają się do AGI, tym większe staje się ryzyko, jeśli nie zostaną podjęte odpowiednie środki ostrożności. Rozwój zdolności rozumowania sztucznej inteligencji i jej potencjalne wykorzystanie do oszustw są niezwykle niebezpieczne” – ocenił Bengio.

Source: https://tuoitre.vn/ai-moi-co-the-bi-dung-che-tao-vu-khi-sinh-hoc-20240914154630363.htm