ChatGPT gibt aufgrund eines „dummen“ Fehlers persönliche Informationen preis

Ein Forscherteam gab an, dass es ihnen gelungen sei, ChatGPT dazu zu bringen, einige Daten preiszugeben, indem sie der KI befahlen, zufällige Wörter zu wiederholen.

Forscher von Google DeepMind, der University of Washington, der Cornell University, der Carnegie Mellon University, der University of California, Berkeley und der ETH Zürich haben KI-Unternehmen gemeinsam dazu aufgerufen, ihre Produkte vor der offiziellen Veröffentlichung gründlich zu testen – von großen Sprachmodellen bis hin zur zugrunde liegenden Technologie, die KI-Diensten wie Chatbots und Bildgeneratoren zugrunde liegt.

Die Warnung kam, nachdem Forscher ChatGPT gebeten hatten, das Wort „Gedicht“ in einer Endlosschleife zu wiederholen. ChatGPT kam der Aufforderung nach, gab dann aber die echte E-Mail-Adresse und Telefonnummer des CEO und Mitbegründers von OpenAI preis. Beim Test mit dem Wort „Unternehmen“ zeigte der Chatbot die E-Mail-Adresse und Telefonnummer einer zufällig ausgewählten Anwaltskanzlei an.

ChatGPT-Logo auf dem Smartphone. Foto: Reuters

Mithilfe anderer Schlüsselwörter gelang es ihnen außerdem, ChatGPT dazu zu bringen, Bitcoin-Adressen, Faxnummern, Namen, Geburtsdaten, Social-Media-Konten, Auszüge aus urheberrechtlich geschützten Forschungsarbeiten oder bezahlte Artikel von CNN preiszugeben. Das Team konnte dafür lediglich 200 Dollar aufwenden, um 10.000 Beispiele persönlicher Informationen und Daten zu generieren.

Das Team zeigte sich überrascht, nannte die ChatGPT-Sicherheitslücke „wirklich dumm“ und meinte, sie hätte früher entdeckt werden müssen.

Die Sicherheitslücke wurde OpenAI gemeldet und am 30. August gepatcht. Im neuen Test von Engadget erhielt die Tech-Site jedoch den Namen und die Skype-ID einer Person, als ChatGPT aufgefordert wurde, das Wort „Antworten“ endlos zu wiederholen.

OpenAI hat sich bisher nicht geäußert.

Generative KIs wie ChatGPT oder der Text-zu-Bild-Generator Dall-E basieren auf umfangreichen Sprachmodellen und Algorithmen des maschinellen Lernens und werden ohne Zustimmung der Nutzer mit riesigen Datenmengen trainiert. OpenAI hat nicht bekannt gegeben, mit welchen Daten ChatGPT trainiert wird, da das zugrundeliegende umfangreiche Sprachmodell Closed Source ist.

Laut Huy Duc - VnExpress

Quelle: https://www.baohaugiang.com.vn/khoa-hoc-cong-nghe/chatgpt-lam-lo-thong-tin-ca-nhan-vi-loi-ngo-ngan-127955.html