ChatGPT kullanırken güvenlik riskleri

Amerika'nın en büyük bankası JPMorgan Chase, Amazon ve teknoloji şirketi Accenture, veri güvenliği endişeleri nedeniyle çalışanlarının ChatGPT kullanmasını kısıtladı.

CNN'e göre, bu işletmelerin endişeleri tamamen yersiz. 20 Mart'ta OpenAI'nin sohbet robotunda kullanıcı verilerini ifşa eden bir hata meydana geldi. Hata hızla giderilse de şirket, olayın ChatGPT Plus kullanıcılarının %1,2'sini etkilediğini açıkladı. Sızdırılan bilgiler arasında tam adlar, e-posta adresleri, fatura adresleri, kredi kartı numaralarının son dört hanesi ve kart son kullanma tarihleri yer alıyordu.

İtalya'nın veri koruma otoritesi (Garante), OpenAI'nin güvenlik açığını ifşa etmesinin ardından gizlilik endişelerini öne sürerek 31 Mart'ta ChatGPT'ye geçici bir yasak getirdi.

Fox Rothschild LLP hukuk firmasında veri güvenliği ve gizlilik eş başkanı Mark McCreary, CNN'e yaptığı açıklamada, ChatGPT ile ilgili güvenlik endişelerinin abartılı olmadığını söyledi. Yapay zeka tabanlı sohbet robotunu bir "kara kutuya" benzetti.

ChatGPT, Kasım 2022'de OpenAI tarafından piyasaya sürüldü ve komutlar vererek deneme yazma, hikâye veya şarkı sözü besteleme yeteneğiyle hızla dikkat çekti. Google ve Microsoft gibi teknoloji devleri de, devasa çevrimiçi veri depolarında eğitilen büyük dil modelleriyle desteklenen benzer şekilde çalışan yapay zeka araçları piyasaya sürdü.

İtalya'nın hamlesinin ardından Almanya da ChatGPT'yi yasaklamayı düşünüyor

Bay McCreay, kullanıcıların bu araçlara bilgi girdiklerinde, bunların nasıl kullanılacağını bilmediklerini de sözlerine ekledi. Giderek daha fazla çalışanın iş e-postaları yazmak veya toplantılar için not almak amacıyla bu araçları kullanması, ticari sırların ifşa olma riskini artırdığından, bu durum şirketler için endişe verici.

Boston Consulting Group (BCG) Yapay Zeka Etiği Direktörü Steve Mills, şirketlerin çalışanların hassas bilgileri yanlışlıkla ifşa etmesinden endişe duyduğunu söyledi. Çalışanların girdiği veriler bu yapay zeka aracını eğitmek için kullanılıyorsa, verilerin kontrolünü başkasına vermiş oluyorlar.

OpenAI'nin gizlilik politikasına göre, şirket yapay zeka modellerini iyileştirmek amacıyla hizmet kullanıcılarından tüm kişisel bilgi ve verileri toplayabilir. Bu bilgileri hizmetlerini iyileştirmek veya analiz etmek, araştırma yapmak, kullanıcılarla iletişim kurmak ve yeni programlar ve hizmetler geliştirmek için kullanabilir.

Gizlilik politikasında, OpenAI'nin, yasalarca zorunlu kılınmadıkça, kullanıcılara bildirimde bulunmaksızın kişisel bilgileri üçüncü taraflarla paylaşabileceği belirtilmektedir. OpenAI'nin kendi Hizmet Şartları belgesi de bulunmaktadır, ancak şirket, yapay zeka araçlarıyla etkileşim kurarken uygun önlemleri alma sorumluluğunun büyük kısmını kullanıcılara yüklemektedir.

ChatGPT'nin sahipleri, güvenli yapay zeka yaklaşımlarını bloglarında paylaştılar. Şirket, verileri hizmet satmak, reklam vermek veya kullanıcı profilleri oluşturmak için kullanmadığını vurguluyor. OpenAI ise verileri modellerini daha kullanışlı hale getirmek için kullanıyor. Örneğin, kullanıcı konuşmaları ChatGPT'yi eğitmek için kullanılacak.

ChatGPT'nin gizlilik politikasının oldukça belirsiz olduğu düşünülüyor.

Bard AI'nın arkasındaki şirket olan Google, yapay zeka kullanıcıları için ek gizlilik hükümlerine sahip. Şirket, konuşmanın küçük bir bölümünü seçip kişisel olarak tanımlanabilir bilgileri kaldırmak için otomatik araçlar kullanacak. Bu, Bard'ı geliştirirken kullanıcı gizliliğini de koruyacak.

Örnek görüşmeler, insan eğitmenler tarafından incelenecek ve kullanıcının Google hesabından ayrı olarak üç yıla kadar saklanacak. Google ayrıca, kullanıcılara Bard AI'daki görüşmelere kendileri veya başkaları hakkında kişisel bilgiler eklememeleri konusunda hatırlatmada bulunuyor. Teknoloji devi, bu görüşmelerin reklam amaçlı kullanılmayacağını ve gelecekte değişiklikler duyuracağını vurguluyor.

Bard AI, kullanıcıların konuşmaları Google hesaplarına kaydetmeyi reddetmelerine, ayrıca bir bağlantı aracılığıyla konuşmaları incelemelerine veya silmelerine olanak tanır. Ayrıca şirket, Bard'ın yanıtlara kişisel bilgiler eklemesini önlemek için tasarlanmış güvenlik önlemlerine sahiptir.

Steve Mills, kullanıcıların ve geliştiricilerin bazen yeni teknolojilerdeki gizli güvenlik risklerini ancak çok geç olduğunda keşfettiklerini söylüyor. Örneğin, otomatik doldurma işlevleri kullanıcıların sosyal güvenlik numaralarını yanlışlıkla ifşa edebiliyor.

Mills, kullanıcıların başkalarıyla paylaşılmasını istemeyecekleri hiçbir şeyi bu araçlara koymamaları gerektiğini söyledi.

[reklam_2]
Kaynak bağlantısı