Yapay zekanın insanlığın varlığını tehdit etmesine izin vermeyin

VinFuture 2024 ödülünü kazanan 'Yapay Zekanın Vaftiz Babaları', bilim insanlarının yapay zeka senaryolarının insanlığın varlığını tehdit etmemesini sağlamaları gerektiğine inanıyor.

VinFuture 2024 Ödülü kazananları, bugün, 7 Aralık'ta, VinUni Üniversitesi'ndeki öğrenciler ve genç bilim insanlarıyla bilimsel araştırmalar ve üzerinde çalıştıkları alanların gelecek beklentileri hakkında sohbet etti. Burada, çığır açan çalışmalarıyla günümüzün yapay zeka devriminin temellerini atan seçkin bilim insanları olan ana ödülün kazananları, yapay zekanın inanılmaz ilerlemeleri hakkında konuştu.

Profesör Yann LeCun (ortada) ve Profesör Yoshua Bengio (sol kapak) değişim oturumunda

"Sanki 10 yıl sonrasına sıçramışız gibi."

Ödülü almak için Vietnam'a gelmeyen Kanada, Toronto Üniversitesi'nden Profesör Geoffrey Hinton, video görüşmesine katıldı. Hinton, Profesör Yann LeCun ve Profesör Yoshua Bengio ile birlikte 2018 yılında Turing Ödülü'nü (bilgisayar bilimleri alanında Nobel Ödülü olarak kabul edilir) almış ve uluslararası medya tarafından "yapay zeka babaları" olarak anılmıştı. Şimdi ise üçü de, Profesör Fei Fei Li (ABD) ve Jensen Huang (NVIDIA CEO'su) olmak üzere iki bilim insanıyla birlikte VinFuture 2024 tarafından ana ödülle onurlandırılmaya devam ediyor.

Profesör Hinton'a göre, yapay zekadaki son patlama üç faktörün sonucudur. İlk olarak, sinir ağlarının daha verimli öğrenme yöntemleri geliştirme çalışmaları; Profesör Yoshua, Profesör Yann ve diğer birçok kişi bunu yaptı. Ayrıca, grafik işlem birimlerinin (GPU) son derece hızlı işlem gücü ve toplayabildiğimiz muazzam miktarda veri var.

Profesör Geoffrey Hinton video aracılığıyla paylaşıyor

Profesör Hinton, "Bu ödülün (VinFuture 2024) en önemli yönlerinden biri, Bay Jensen Huang'ın yapay zeka için faydalı GPU kartlarının oluşturulmasına öncülük etme çalışmalarının takdir edilmesidir. Jensen Huang'ın GPU kartı ve Profesör Fei Fei Li'nin veri kümelerinin birleşimi, yapay zekanın modern gelişiminde önemli bir rol oynamıştır. Çalışmalarının, sinir ağı algoritmaları üzerinde çalışanlarla birlikte takdir edilmesi harika," dedi.

"GPU'ları sinir ağlarını eğitmek için kullandığımızda 30 kat daha hızlı olduklarını gördük. Bu büyük bir sıçramaydı. Sanki hesaplama hızı zamanının 10 yıl ötesindeydi. Birdenbire hesaplama hızında geleceğin 10 yıl ilerisindeydik. Bu, yapay zeka için tam bir devrimdi, inanılmazdı!" diye paylaştı Profesör Hinton.

Bilim insanları, sinir ağlarındaki bağlantıları daha iyi anlamak için hâlâ çalışıyorlar. Bu, bilim insanlarının insan zekâsına daha çok benzeyen ve hatta sezgiyi bile açıklayabilen yapay zekâlar geliştirmelerine yardımcı olacak. Geleneksel mantıksal yaklaşımlar bunu asla başaramayacak.

"Yapay zeka konusunda korkmaya başlıyorum"

Profesör Hinton, günümüzün büyük sinir ağlarının sezgilerinin insanlardakine benzer olduğunu söyledi. Geçen yıldan beri, yapay zekanın insanlar kadar akıllı olmasının sadece 5 ila 20 yıl sürebileceğinden endişelenmeye başladı. "İşte o zaman yapay zeka konusunda endişelenmeye başladım. Gelişimi durdurmak bir seçenek değil. Dolayısıyla tek seçenek, bizden daha akıllı hale geldiğinde güvenliği nasıl sağlayacağımızı bulmaya çalışmak," diye paylaştı Profesör Hinton.

"Ama dünyanın sonunun kaçınılmaz olduğunu düşünmüyorum," diyor Profesör Hinton. "Ancak olasılıklar göz ardı edilemez ve bunu önlemek için çok çalışmamız gerekiyor. Umarım en yetenekli öğrenciler, yapay zeka ele geçirmeleri gibi uzun vadeli tehditlerden siber suç gibi kısa vadeli tehditlere kadar çok çeşitli tehditleri ele alan yapay zeka güvenliği üzerine çalışmayı tercih ederler."

Profesör Yoshua Bengio ve Profesör Yann LeCun

Profesör Yann Lecun, yapay zekanın insanlar kadar akıllı olduğunda insanlara hükmetme riskinden de endişe duyduğunu söyledi. Ancak şu anki cevap henüz net değil. Profesör Yann, "30 avro değerinde küçük bir oyuncakla satranç oynarken kaybedebiliriz. Bu tehlikeli mi? Cevap hayır. Yapay zeka ancak (insanları kontrol etmek için) yapay zekaya motivasyon yarattığımızda tehlikeli hale geliyor. Ancak şu anda yapay zekanın sadece bilgisi var, motivasyonu yok," dedi.

Profesör Yann'a göre, insanlara aktif olarak hizmet eden bir yapay zeka yaratmak yalnızca teknik bir sorun. Yapay zeka akıllı olduğu için, yapay zekanın insanlara hükmedeceğini düşünmek bir önyargıdır; çünkü gerçek şu ki, toplumda birçok zeki insan var olmuştur, ancak dünyaya hükmedememişlerdir! Yapay zeka hâlâ bir araçtır ve sorun yapay zekada değil, insanlardadır.

Profesör Yoshua Bengio'ya göre öznel olamayız, küçük bir sorun bile insanlığın hayatta kalmasını etkileyebilir. İnsanlar makinelere motivasyon yükleyebilir. Örneğin, biri makineyi insana dönüştürmek ve ona "hayatta kalma" ihtiyacı varmış gibi göstermek isterse, makineyi kapatmak isteriz ama o kapanmayı reddeder. Profesör Bengio, "Elbette bu senaryonun gerçekleşmemesini sağlamalıyız" dedi.

Kaynak: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm