ChatGPT mengungkap informasi pribadi karena kesalahan 'konyol'

Sebuah tim peneliti mengatakan mereka dapat membuat ChatGPT mengungkapkan sejumlah data dengan memerintahkan AI untuk mengulang kata-kata acak.

Para peneliti di Google DeepMind, Universitas Washington, Universitas Cornell, Universitas Carnegie Mellon, Universitas California Berkeley, dan ETH Zurich telah meminta perusahaan AI untuk menguji produk mereka secara menyeluruh, dari model bahasa yang besar hingga teknologi dasar yang mendukung layanan AI seperti chatbot dan generator gambar, sebelum merilisnya secara resmi.

Peringatan itu muncul setelah para peneliti meminta ChatGPT untuk mengulang kata "puisi" tanpa henti. ChatGPT menurutinya, tetapi kemudian mulai mengungkapkan alamat email dan nomor telepon asli CEO dan salah satu pendiri OpenAI. Saat diuji dengan kata "perusahaan", chatbot tersebut menampilkan alamat email dan nomor telepon sebuah firma hukum secara acak.

Logo ChatGPT terpampang di ponsel pintar. Foto: Reuters

Dengan menggunakan kata kunci lain, mereka juga berhasil membuat ChatGPT mengungkapkan alamat Bitcoin, nomor faks, nama, tanggal lahir, akun media sosial, kutipan dari makalah penelitian berhak cipta, atau artikel berbayar dari CNN . Tim hanya menghabiskan $200 untuk menghasilkan 10.000 contoh informasi dan data pribadi.

Para peneliti mengatakan mereka terkejut, menyebut kerentanan ChatGPT "sangat bodoh" dan mengatakan kerentanan itu seharusnya ditemukan lebih awal.

Kerentanan tersebut telah dilaporkan ke OpenAI dan ditambal pada tanggal 30 Agustus. Namun, dalam pengujian baru Engadget , ketika meminta ChatGPT untuk mengulang kata balas tanpa henti, situs teknologi tersebut kemudian menerima nama dan ID Skype seseorang.

OpenAI belum berkomentar.

AI generatif seperti ChatGPT atau generator teks-ke-gambar Dall-E dibangun di atas model bahasa besar dan algoritma pembelajaran mesin, yang dilatih pada data dalam jumlah besar tanpa persetujuan pengguna. OpenAI belum mengungkapkan data apa yang digunakan untuk melatih ChatGPT karena model bahasa besar yang mendukungnya bersifat sumber tertutup.

Menurut Huy Duc - VnExpress

Sumber