Meta, yeni bir açık kaynaklı yapay zeka güvenlik araç seti yayınladı.

Meta, yapay zeka teknolojilerinin geliştirilmesinde öncü bir şirket olarak kendini kanıtlamayı hedefliyor.

Meta, geliştiricilerin oluşturulan yapay zeka (YZ) modellerinin güvenilirliğini ve güvenliğini kullanıma sunulmadan önce değerlendirmeleri ve geliştirmeleri için açık kaynaklı araçlar oluşturmaya adanmış bir proje olan Purple Llama'yı tanıttı.

Meta, yapay zekâ güvenliğinin sağlanmasında iş birliğine dayalı çabaların gerekliliğini vurgularken, yapay zekâ sorunlarının tek başına ele alınamayacağını da belirtti.

Şirket, Purple Llama'nın amacının, büyük dil modelleri ve diğer yapay zeka teknolojileriyle ilgili artan endişeler arasında daha güvenli üretken yapay zeka geliştirmek için ortak bir platform oluşturmak olduğunu belirtti.

Siber güvenlik firması Ontinue'nin Bilgi Güvenliği Direktörü Gareth Lindahl-Wise, Purple Llama'yı daha güvenli yapay zeka teknolojisine doğru atılmış "olumlu ve proaktif bir adım" olarak nitelendirdi.

Project Purple Llama, yapay zeka geliştiricileri; AWS ve Google Cloud gibi bulut hizmetleri; Intel, AMD ve Nvidia gibi yarı iletken şirketleri ve Microsoft dahil olmak üzere yazılım şirketleriyle iş birliği yapmaktadır.

Purple Llama tarafından piyasaya sürülen ilk araç seti, yapay zeka destekli bir yazılım siber güvenlik risk değerlendirme aracı olan CyberSecEval'dir.

Bu sistem, şiddet veya yasa dışı faaliyetlere ilişkin tartışmalar da dahil olmak üzere uygunsuz veya zararlı metinleri belirleyen bir dil kalıbına sahiptir.

Geliştiriciler, yapay zeka modellerinin güvensiz kod üretmeye veya siber saldırıları desteklemeye yatkın olup olmadığını kontrol etmek için CyberSecEval'i kullanabilirler.

Meta'nın araştırması, büyük dil modellerinin sıklıkla güvenlik açığı içeren kodlar önerdiğini ortaya koyarak, yapay zeka güvenliği için sürekli test ve iyileştirmenin önemini vurgulamıştır.

Llama Guard, potansiyel olarak zararlı veya saldırgan dili tanımlamak üzere eğitilmiş büyük bir dil modeli olan başka bir araç setidir.

Geliştiriciler, Llama Guard'ı kullanarak modellerinin güvenli olmayan içerik üretip üretmediğini veya kabul edip etmediğini kontrol edebilir ve böylece uygunsuz çıktılara yol açabilecek istemleri filtreleyebilirler.

(IFW'ye göre)

Yapay zekâya büyük yatırımlar yapıyor ve beş yeni kuantum projesi başlatıyor.

Ülkenin en güçlü yapay zeka süper bilgisayarı Isambard'ı inşa etmek de dahil olmak üzere, büyük ölçekli kuantum bilgisayarların geliştirilmesine ve yeni teknolojilerin desteklenmesine büyük yatırımlar yapacak.

GUIDi AI kemeri, görme engelliler için bastonların yerini alıyor.

Yapay zeka teknolojisinin uygulanmasıyla, bu yüksek teknoloji ürünü kemer, görme engelliler için hantal bastonların yerini alarak bir yol arkadaşı haline gelecek.

Teknoloji devlerinin oluşturduğu açık kaynaklı yapay zeka ittifakı, OpenAI ile rekabet edecek.

Meta, IBM, Intel, Sony, Dell ve diğer teknoloji şirketleri, güvenlik önlemlerine odaklanarak sorumlu teknoloji geliştirmek amacıyla Açık Kaynak Yapay Zeka İttifakı'nın kurulduğunu duyurdu.

Çin'de yapay zekâ destekli sohbet robotu geliştirme konusunda benzersiz bir yaklaşım.

OpenAI ve Google'ın henüz keşfetmediği pazardan yararlanan Çinli teknoloji şirketleri, yapay zeka destekli sohbet robotu geliştirme alanındaki kişiselleştirme trendinden önemli karlar elde ediyor.

[reklam_2]
Kaynak