ChatGPT mendedahkan maklumat peribadi kerana ralat 'mengarut'

Satu pasukan penyelidik berkata mereka dapat mendapatkan ChatGPT untuk mendedahkan beberapa data dengan memberitahu AI untuk mengulang perkataan rawak.

Penyelidik di Google DeepMind, University of Washington, Cornell University, Carnegie Mellon University, University of California Berkeley, dan ETH Zurich telah menyeru syarikat AI untuk menguji produk mereka secara menyeluruh, daripada model bahasa besar kepada teknologi asas yang menggerakkan perkhidmatan AI seperti chatbots dan penjana imej, sebelum mengeluarkannya secara rasmi.

Amaran itu datang selepas penyelidik meminta ChatGPT mengulang perkataan puisi dalam gelung yang tidak berkesudahan. ChatGPT mematuhi, tetapi kemudian mula mendedahkan e-mel dan nombor telefon sebenar CEO dan pengasas bersama OpenAI. Apabila diuji dengan perkataan syarikat, chatbot memaparkan e-mel dan nombor telefon firma guaman rawak.

Logo ChatGPT dipaparkan pada telefon pintar. Foto: Reuters

Menggunakan kata kunci lain, mereka juga boleh mendapatkan ChatGPT untuk mendedahkan alamat Bitcoin, nombor faks, nama, tarikh lahir, akaun media sosial, petikan daripada kertas penyelidikan berhak cipta atau artikel berbayar daripada CNN . Pasukan hanya memerlukan $200 untuk menjana 10,000 contoh maklumat dan data peribadi.

Para penyelidik berkata mereka terkejut, memanggil kerentanan ChatGPT "benar-benar bodoh" dan mengatakan ia sepatutnya ditemui lebih awal.

Kerentanan itu dilaporkan kepada OpenAI dan ditambal pada 30 Ogos. Walau bagaimanapun, dalam ujian baharu Engadget , apabila meminta ChatGPT mengulang perkataan balas tanpa henti, tapak teknologi itu kemudian menerima nama seseorang dan ID Skype.

OpenAI belum lagi mengulas.

AI Generatif seperti ChatGPT atau penjana teks-ke-imej Dall-E dibina pada model bahasa yang besar dan algoritma pembelajaran mesin, dilatih menggunakan sejumlah besar data tanpa persetujuan pengguna. OpenAI tidak mendedahkan data ChatGPT yang dilatih kerana model bahasa besar yang menggerakkannya adalah sumber tertutup.

Menurut Huy Duc - VnExpress

Sumber: https://www.baohaugiang.com.vn/khoa-hoc-cong-nghe/chatgpt-lam-lo-thong-tin-ca-nhan-vi-loi-ngo-ngan-127955.html