„Ojciec chrzestny” sztucznej inteligencji ostrzega przed ryzykiem wyginięcia

Profesor Yoshua Bengio wzywa rządy i firmy do spowolnienia wyścigu zbrojeń w dziedzinie sztucznej inteligencji, w przeciwnym razie grozi mu ryzyko katastrofalnych skutków.

Yoshua Bengio, jeden z pierwszych naukowców , którzy położyli podwaliny pod współczesny boom na sztuczną inteligencję. Zdjęcie: Tuan Anh .

W rozmowie z The Wall Street Journal jeden z pionierów sztucznej inteligencji, Yoshua Bengio, stwierdził, że maszyny oparte na sztucznej inteligencji stają się groźniejsze niż kiedykolwiek.

„Byłoby niebezpieczne, gdybyśmy stworzyli maszyny, które byłyby znacznie inteligentniejsze od ludzi i miałyby własne cele samoobrony. To byłoby jak stworzenie konkurenta dla ludzkości i bystrzejszego od nas” – powiedział Bengio.

Bengio, kanadyjski naukowiec, którego wczesne prace nad uczeniem głębokim i sieciami neuronowymi położyły podwaliny pod współczesny boom na sztuczną inteligencję, jest uważany za jednego z „ojców sztucznej inteligencji”, obok Geoffreya Hintona i Yanna LeCuna.

Podobnie jak Hinton, Bengio ostrzegał przed potencjalnymi zagrożeniami, jakie niesie ze sobą sztuczna inteligencja, i wezwał do podjęcia wspólnych działań w celu ograniczenia ryzyka.

Profesor Uniwersytetu w Montrealu uważa, że ​​produkty oparte na sztucznej inteligencji mogą teraz rozwinąć zdolność oszukiwania użytkowników, by realizowali własne cele, niczym inteligentne superkomputery będące złoczyńcami w filmach science fiction.

Aby temu przeciwdziałać, pan Bengio podkreślił potrzebę „niezależnych podmiotów zewnętrznych” do weryfikacji wewnętrznych mechanizmów bezpieczeństwa firm z branży AI. Ponadto, ten „Ojciec Chrzestny” AI wymaga również od firm przedstawienia dowodów na to, że „wdrażane lub używane przez nie systemy AI są godne zaufania”.

Bengio przewiduje, że jeśli nie zostaną podjęte środki bezpieczeństwa, w ciągu najbliższych 10–15 lat nieuchronnie pojawią się poważne zagrożenia związane ze sztuczną inteligencją, a w najgorszym przypadku katastrofa może nastąpić już po trzech latach.

Source: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html