Nowy model OpenAI zwiększa ryzyko tworzenia broni biologicznej

Zdolność modelu do rozumowania, rozwiązywania złożonych problemów matematycznych i odpowiadania na pytania badawcze jest postrzegana jako ogromny krok naprzód w wysiłkach na rzecz rozwoju sztucznej inteligencji ogólnej (AGI) – maszyn o zdolnościach poznawczych zbliżonych do ludzkich.

Firma OpenAI stwierdziła, że ​​jest szczególnie „ostrożna” w sposobie, w jaki wprowadza model o1 na rynek, biorąc pod uwagę jego zaawansowane możliwości. Zdjęcie: Getty Images

Według Financial Times, OpenAI oceniło ryzyko nowych modeli jako „średnie” w odniesieniu do kwestii związanych z bronią chemiczną, biologiczną, radiologiczną i jądrową (CBRN), co jest najwyższym wskaźnikiem, jaki kiedykolwiek oceniła firma. Oznacza to, że technologia ta „znacznie poprawiła” możliwości ekspertów w zakresie tworzenia broni biologicznej.

Eksperci twierdzą, że oprogramowanie oparte na sztucznej inteligencji, które jest w stanie szczegółowo rozumować, zwłaszcza w rękach osób o złych zamiarach, może zwiększać ryzyko nadużyć.

Profesor Yoshua Bengio, czołowy światowy naukowiec zajmujący się sztuczną inteligencją z Uniwersytetu w Montrealu, podkreślił, że ten średni poziom ryzyka zwiększa pilną potrzebę wprowadzenia regulacji dotyczących sztucznej inteligencji, takich jak ustawa SB 1047, nad którą debatuje się obecnie w Kalifornii. Ustawa ta nakłada na twórców sztucznej inteligencji obowiązek podjęcia działań w celu zmniejszenia ryzyka wykorzystania ich modeli do rozwoju broni biologicznej.

Według serwisu The Verge bezpieczeństwo modeli sztucznej inteligencji stało się kwestią najwyższej wagi, ponieważ firmy technologiczne, takie jak Google, Meta i Anthropic, prześcigają się w tworzeniu i udoskonalaniu zaawansowanych systemów sztucznej inteligencji.

Systemy te mogą przynieść ogromne korzyści ludziom w wykonywaniu zadań i udzielaniu pomocy w wielu dziedzinach, ale jednocześnie stwarzają wyzwania w zakresie bezpieczeństwa i odpowiedzialności społecznej.

Cao Phong (według FT, Reuters, The Verge)

Źródło: https://www.congluan.vn/openai-thua-nhan-moi-hinh-ai-co-the-duoc-su-dung-de-tao-ra-vu-khi-biological-post312337.html