Yapay Zekayı Ne Kadar İyi Tanıyorsunuz? Bilmeniz Gereken 7 Terim

Yapay zekânın (YZ) hızla gelişmesi, bunun insanların etkisini anlayabileceğinden daha hızlı geliştiği yönünde endişelere yol açtı.

Birini ne kadar iyi anlıyorsunuz? İşte bilmeniz gereken 7 terim, resim 1. — Fotoğraf: ST

ChatGPT gibi araçların ortaya çıkmasıyla birlikte genel yapay zeka kullanımı önemli ölçüde arttı. Bu araçların birçok faydası olsa da, zararlı amaçlarla da kötüye kullanılabilmeleri mümkün.

Bu riski yönetmek için ABD ve diğer bazı ülkeler, Amazon, Anthropic, Google, Inflection, Meta, Microsoft ve OpenAI gibi yedi şirketle, yapay zeka teknolojisinin geliştirilmesinde güvenli uygulamalara bağlı kalmaları için anlaşmalar sağladı.

Beyaz Saray duyurusu, "kırmızı takım" ve "filigran" gibi ortalama bir insanın aşina olmayabileceği kendine özgü terminolojiyle birlikte geliyor. İşte dikkat etmeniz gereken yapay zeka ile ilgili yedi terim.

Makine öğrenimi

Yapay zekanın bu dalı, makinelerin belirli bir görevi doğru bir şekilde yerine getirmesini ve kalıpları belirlemesini sağlamayı amaçlar. Makine daha sonra bu verilere dayanarak tahminlerde bulunabilir.

Derin öğrenme

Yaratıcı yapay zeka görevleri genellikle, insan beynindeki nöronları taklit etmek üzere tasarlanmış bir dizi algoritma olan sinir ağlarını kullanarak bilgisayarları eğitmeyi içeren bir yöntem olan derin öğrenmeye dayanır; bu sayede metin, resim veya diğer içerikleri oluşturmak için desenler arasında karmaşık bağlantılar kurulur.

Derin öğrenme modelleri çok sayıda nöron katmanına sahip olduğundan, geleneksel makine öğrenmesinden daha karmaşık desenleri öğrenebilirler.

Büyük dil modeli

Büyük dil modeli veya LLM, büyük miktarda veri üzerinde eğitilir ve dili modellemeyi veya bir dizideki bir sonraki kelimeyi tahmin etmeyi amaçlar. ChatGPT ve Google Bard gibi büyük dil modelleri, özetleme, çeviri ve konuşma gibi görevler için kullanılabilir.

Algoritma

Makinelerin tahminlerde bulunmasını, sorunları çözmesini veya görevleri tamamlamasını sağlayan bir dizi talimat veya kural. Algoritmalar, alışveriş önerileri sunabilir, dolandırıcılık tespiti ve müşteri hizmetleri sohbet işlevlerine yardımcı olabilir.

Ön yargı

Yapay zeka, büyük veri kümeleri kullanılarak eğitildiğinden, nefret söylemi gibi zararlı bilgileri verilere dahil edebilir. Yapay zekayı eğitmek için kullanılan veri kümelerinde ırkçılık ve cinsiyetçilik de görülebilir ve bu da yanıltıcı içeriklere yol açabilir.

Yapay zeka şirketleri, yapay zeka sistemlerinde zararlı önyargı ve ayrımcılığın nasıl önleneceği konusunda daha derinlemesine araştırma yapmayı kabul etti.

Kırmızı takım

Şirketlerin Beyaz Saray'a verdiği taahhütlerden biri de yapay zeka modelleri ve sistemleri konusunda şirket içinde ve dışında "kırmızı takım" çalışması yürütmek.

"Kırmızı takım", olası güvenlik açıklarını ortaya çıkarmak için bir modelin test edilmesini içerir. Terim, bir ekibin stratejiler geliştirmek için bir saldırganın eylemlerini simüle ettiği askeri bir uygulamadan gelir.

Bu yöntem, Microsoft ve Google gibi şirketlerin bulut bilişim platformları gibi sistemlerindeki güvenlik açıklarını test etmek için yaygın olarak kullanılıyor.

Filigranlama

Filigran, bir sesin veya görüntünün yapay zeka tarafından oluşturulup oluşturulmadığını anlamanın bir yoludur. Doğrulama amacıyla kontrol edilen bilgiler, içeriği kimin oluşturduğu, nasıl ve ne zaman oluşturulduğu veya düzenlendiği hakkında bilgiler içerebilir.

Örneğin Microsoft, yapay zeka araçlarıyla oluşturulan görsellere filigran eklemeyi taahhüt etti. Şirketler de Beyaz Saray'a, görsellerin yapay zeka tarafından oluşturulduğunu tespit etmek için filigran eklemeyi veya kaynaklarını kaydetmeyi taahhüt etti.

Filigranlar, fikri mülkiyet ihlallerini takip etmek için de yaygın olarak kullanılır. Yapay zeka tarafından oluşturulan görsellerdeki filigranlar, her yedi pikselde bir görülen küçük bir değişiklik gibi algılanamayan bir gürültü olarak görünebilir.

Ancak, yapay zeka tarafından oluşturulan metinlere filigran eklemek daha karmaşık olabilir ve kelime şablonunun yapay zeka tarafından oluşturulan içerik olarak tanımlanabilmesi için düzenlenmesi gerekebilir.

Hoang Ton (Poynter'e göre)

[reklam_2]
Kaynak