Yapay Zeka 'Baba' neslinin tükenme tehlikesine karşı uyarıyor

Modern yapay zeka patlamasının temellerini atan ilk bilim insanlarından Yoshua Bengio. Fotoğraf: Tuan Anh .

Yapay zekanın öncülerinden Yoshua Bengio, The Wall Street Journal'a verdiği röportajda, yapay zekalı makinelerin her zamankinden daha tehlikeli hale geldiği mesajını verdi.

Bay Bengio, "İnsanlardan çok daha akıllı ve kendi kendini koruma hedefleri olan makineler yaratırsak bu tehlikeli olur. Bu, insanlığa rakip ve bizden daha akıllı bir makine yaratmak gibi olur," dedi.

Derin öğrenme ve sinir ağları üzerine yaptığı erken dönem çalışmalarıyla modern yapay zeka patlamasının temellerini atan Kanadalı araştırmacı Bengio, Geoffrey Hinton ve Yann LeCun ile birlikte "yapay zekanın babalarından" biri olarak kabul ediliyor.

Hinton gibi Bengio da yapay zekanın potansiyel zararları konusunda uyarıda bulundu ve riskleri azaltmak için kolektif eylem çağrısında bulundu.

Montreal Üniversitesi profesörü, yapay zeka ürünlerinin artık kullanıcıları kendi hedeflerine ulaşmaları için kandırma yeteneği geliştirebileceğine, tıpkı bilim kurgu filmlerindeki duyarlı süper bilgisayar kötü adamları gibi inandığını söyledi.

Buna karşı koymak için Bay Bengio, yapay zeka şirketlerinin iç güvenlik mekanizmalarını incelemek üzere "bağımsız üçüncü taraflara" ihtiyaç duyulduğunu vurguladı. Ayrıca, yapay zekanın bu "Vaftiz Babası", şirketlerin "kuruluşturdukları veya kullandıkları yapay zeka sistemlerinin güvenilir olduğuna" dair kanıt sunmalarını da şart koşuyor.

Bengio, güvenlik önlemleri alınmazsa önümüzdeki 10-15 yıl içinde büyük yapay zeka risklerinin kaçınılmaz olduğunu, en kötü senaryoda ise olası bir felaketin gerçekleşmesinin sadece üç yıl süreceğini öngörüyor.

Kaynak: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html