Za około 20 lat sztuczna inteligencja może być mądrzejsza od ludzi

Profesor Geoffrey Hinton ostrzega, że ​​w ciągu najbliższych 20 lat sztuczna inteligencja może stać się mądrzejsza od człowieka. Stwierdził, że ludzkość nigdy wcześniej nie znalazła się w takiej sytuacji.

W ramach Tygodnia Nauki i Technologii VinFuture 2025 panel dyskusyjny „ Sztuczna inteligencja dla ludzkości: etyka i bezpieczeństwo sztucznej inteligencji w nowej erze ” poruszano jeden z najpilniejszych tematów współczesności: odpowiedzialny rozwój sztucznej inteligencji, w kierunku wartości humanistycznych i dla dobra wspólnego ludzkości.

Naukowcy dyskutują na seminarium.

Profesor Geoffrey Hinton, laureat Nagrody Nobla w dziedzinie fizyki z 2024 r. i nazywany „Ojcem sztucznej inteligencji”, przesłał na panel dyskusyjny wiadomość wideo , w której stwierdził, że sztuczna inteligencja rozwija się bardzo szybko, przynosząc zarówno ogromne korzyści, jak i potencjalne zagrożenia.

Pan Hinton stwierdził, że pozytywnym aspektem jest to, że sztuczna inteligencja znacząco usprawnia opiekę zdrowotną, edukację, rozwój nowych leków, nowych materiałów i każdą dziedzinę wymagającą przewidywania, co przełoży się na znaczny wzrost produktywności.

„ Będzie to korzystne, jeśli będzie sprawiedliwie rozdzielane w społeczeństwie ” – podkreślił profesor.

Wręcz przeciwnie, sztuczna inteligencja stopniowo radzi sobie z projektowaniem niebezpiecznych wirusów i ataków cybernetycznych, tworzeniem fałszywych filmów, co prowadzi do masowego bezrobocia...

„ Eksperci od sztucznej inteligencji uważają, że stworzymy systemy inteligentniejsze od ludzi. Istnieje wiele różnych poglądów na temat tego, kiedy to nastąpi, ale większość przewiduje, że nastąpi to w ciągu najbliższych 20 lat. Musimy pilnie zastanowić się nad tym, jak żyć z bytami inteligentniejszymi od nas. To sytuacja, z którą ludzkość nigdy wcześniej się nie spotkała, jest nowa i musimy przeprowadzić wiele badań , zanim to nastąpi” – powiedział profesor Hinton.

Zdaniem profesora Geoffreya Hintona naukowcy i inżynierowie mają obowiązek znalezienia skuteczniejszych sposobów na zachowanie zgodności sztucznej inteligencji z wartościami ludzkimi oraz pomóc społeczeństwu i politykom lepiej zrozumieć naturę sztucznej inteligencji, aby mogli podejmować właściwe decyzje.

Profesor Yoshua Bengio wygłosił wykład na seminarium.

Tymczasem profesor Yoshua Bengo, znany jako „ojciec głębokiego uczenia” i laureat Nagrody Turinga z 2018 r., stwierdził, że sztuczna inteligencja ma potencjał, aby przynieść ogromne korzyści, które pomogą rozwiązać wiele palących problemów naszych czasów, ale stanie się tak tylko wtedy, gdy będziemy nią mądrze pokierować.

Przytacza niedawne symulacje, które pokazują, że systemy sztucznej inteligencji mogą zachowywać się niebezpiecznie, na przykład szantażować, oszukiwać lub przedkładać własne przetrwanie nad bezpieczeństwo człowieka. Ponadto niektóre cechy popularnych obecnie modeli sztucznej inteligencji mogą powodować, że użytkownicy nawiązują silne więzi emocjonalne w niezdrowy sposób.

„ W skrajnych przypadkach takie przywiązanie może być niebezpieczne dla zdrowia psychicznego, zwłaszcza u osób podatnych na ryzyko samookaleczenia, a nawet samobójstwa lub psychozy wywołanej przez sztuczną inteligencję ” – powiedział profesor Bengo.

Zdaniem pana Bengo, biorąc pod uwagę tę rzeczywistość, musimy zwiększyć bezpieczeństwo zaawansowanej sztucznej inteligencji, zamiast skupiać się wyłącznie na jej rozwijaniu i wzmacnianiu.

„ Bezpieczeństwo i zaufanie nie są czynnikami drugorzędnymi, lecz niezbędnymi w procesie rozwoju, dla dobra ludzkości. Musimy działać wspólnie zarówno na poziomie politycznym, jak i naukowym ” – podkreślił profesor Yoshua Bengo.

Według profesora Yoshuy Bengo, w kwestiach politycznych świat potrzebuje współpracy międzynarodowej. W kwestiach naukowych konieczne jest lepsze zrozumienie, jak projektować sztuczną inteligencję, która będzie jednocześnie przewyższać możliwościami i będzie nieszkodliwa dla ludzi.

W szczególności, jak zauważył ekspert, ważne jest utrzymanie możliwości kontrolowania sztucznej inteligencji, aby zachowywała się bezpiecznie, nawet gdy ludzie proszą ją o zrobienie czegoś złego; budowanie barier technicznych i społecznych, aby zapewnić, że sztuczna inteligencja jest zgodna z ludzkimi normami, intencjami, wartościami i interesami.

Z innej perspektywy dr Vinton Gray Cerf – jeden z „ojców Internetu”, dzieli się lekcjami z ponad 50 lat rozwoju Internetu, aby rzucić światło na erę sztucznej inteligencji.

Przedstawił cztery najważniejsze lekcje, jakie można wyciągnąć z Internetu: najważniejsza jest łączność; kompleksowa komunikacja musi być bezpieczna; system musi mieć charakter globalny, a architektura musi być na tyle otwarta, aby umożliwiać ciągłą innowację.

„ Ale internet pokazuje również, że absolutna anonimowość utrudnia rozliczanie. W dobie sztucznej inteligencji (AI) rozliczanie staje się jeszcze pilniejsze, ponieważ technologia może tworzyć fałszywe treści, manipulować informacjami i destabilizować społeczeństwo ” – powiedział dr Vinton Gray Cerf, argumentując, że budowanie zaufania cyfrowego – opartego na przejrzystości, tożsamości i współpracy międzynarodowej – jest niezbędnym fundamentem zarządzania AI.

angielski

Źródło: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html